LLM 프롬프트 활용 교과서, 질문 속에 답이 있다, 길벗출판사

#2512

AI 프롬프트라는 ‘새로운 언어’를 배우며 느낀 것들

어느 날부터 당연해진 것이 있다. LLM(Large Language Models, 대규모 언어 모델)은 이제 기술을 넘어 생활 속에 침투하기 시작한 것을 체감하고 있다. 최근 몇 년간 프로젝트에 들어가게 되면 여기저기서 “AI로 이거 했어”, “ChatGPT에 물어봤는데”라는 말들이 들리며 AI를 사용해서 업무에서 활용하고 있다는 것을 알 수 있었다. 나처럼 기술 도입이 늦은 편에 속한 사람도 컴으로든 폰으로든 업무에 사용하면서 구글을 검색하던 일이 과거가 되어 버리고 있으니 말 다한 것 아닌가 생각된다.

사실 지금까지 나는 인터넷에 떠도는 ‘잘 나온’ 프롬프트를 그냥 복사 붙여 넣기 하며 사용해 왔다. 왜 그 프롬프트가 좋은 답을 주는지, 어떤 구조로 되어 있는지는 묻지도 따지지도 않고 말이다. 마치 누군가 정해준 주문을 외우는 마법사처럼. 하지만 점점 더 많이 사용할수록, AI라는 도구가 일상화될수록 이렇게는 안 되겠다는 생각이 들었다. 불편하지 않은 수준을 넘어 ‘제대로’ 사용하고 싶다는 갈증이 생겼다. 정확히 그 시점에 손에 들어온 책이 LLM 프롬프트 활용 교과서다. 리뷰 신청을 해서 운좋게 책을 받아보고 출퇴근 중에 읽고 있는 중이다.

우선 , '교과서'라는 표현이 어울리는 책이라 생각된다. 역사부터 시작해서 각 모델의 차이점은 물론이고 LLM을 잘 다루기 위한 프롬프트 가이드까지. 읽으면서 느낀 것 중에서 가장 좋은 부분이라 생각된 건 ChatGPT, 제미나이, 클로드 등 각 모델의 차이점등도 비교해 주는 부분이었다. 누군가가 인터넷에 올린 양질의 답을 얻기 위한 프롬프트가 어째서 문답 형식을 가지고 있는지 왜 그런지를 책을 읽으며 이해가 가능했다. 읽을수록 안개가 걷히는 기분이랄까.

이래서였구나... 불편한 진실 하나

단순히 내가 던진 질문에 찰떡같이 알아듣고 답을 주는 것처럼 보이던 것들 중에 이상한 답을 주던 것을 재차 확인작업을 요청하던 과정이 LLM의 할루시네이션이라는 것도 알게 되었다. LLM 프롬프트 활용 교과서를 읽으며 명확한 의도를 담아 구체적으로 질문해야만 하는 이유를 알게 되었고 지금까지 프롬프트를 대하는 방법이 잘못되었다는 걸 새삼 깨달았다. 마냥 어려울 것이라 여겼던 프롬프트 사용법이 생각보다는 접근하기 쉽다는 것을 안 것만으로도 책값은 충분히 하지 않을까.

바쁠수록 돌아가라고 했는데 LLM을 통해 스스로 숙고하는 시간없이 툭툭 던져주는 대답에 익숙해져 버리는 것 같은 느낌을 받으며 분명히 좋은데 좋지만은 않은 기분이 들었던 건 원하는 답을 얻기 위해 들여야 하는 LLM의 사용방법, 각 모델이 가지고 있는 특성을 몰랐기에, 제대로 활용하지 못한 나에게 문제가 있었다는 것도 알게 된 약간 뼈아픈 현실이었다. 가끔씩 장문의 문장을 시킬 때 나오던 이상한 부분들, 한참 일 시키다 보면 처음으로 돌아가서 틀린 답을 내놓거나 오래된 정보를 가지고 와서 당당하게 알려주던 그 모든 것들이 결국 LLM이 가지고 있는 한계성을 십분 활용하기 위한 방법을 모르고 무작정 좋은 답변만을 바라고 있던 잘못된 사용법이라는 것을 알게 되었다.

좋은 답변을 얻고 싶다면, 좋은 질문을 해야 한다

책 속에서 temperature 설정으로 확률적 다양성을 다루는 방법에 대해 알게 되었을 때 느낀 생각이 있다면 "내가 못하는 것을 잘하는 사람에게 시키면 된다"라고 하는데 잘하는 사람을 '제대로' 부리기 위해선 그 일에 대해 나 역시 일정 수준 이상의 지식이 있었야 한다는 것을 간과하기 쉽다는 것이다. 이와 같이 프롬프트를 잘 다루기 위해서는 프롬프트의 구조와 사용법, 바른 결과를 유출하기 위한 다양한 방법론의 이해 역시 필요하다. 창의적으로 답변하거나 사실적으로 답변을 위한 설정을 할 수 있고 이 하나의 설정만으로도 프롬프트가 선생이 되기도 아티스트가 되기도 하니 믿고 일을 맡기려면 관리하는 내가 잘해야 한다는 것을 알았다. 개떡 같은 질문을 하면 찰떡같은 답이 아니라 그대로 개떡 같은 답이 돌아올 수밖에 없는 거였다. 책을 접하며 시야를 넓힐 수 있어 다행이라 여겨진다.

금방 읽을 수 있을 줄 알았던 책인데 천천히 읽어 나가야 그나마 소화가 가능할 것 같은 내용을 다루고 있어 완독은 조금 더 시간이 지나야 할 것 같다. 초반부는 교과서답게 약간 지루한 이야기라는 생각이 들었지만 그 지루함을 견디고 계속 읽어나가자, 신기한 일이 일어났다. 읽으면 읽을수록 이해되는 것들이 있었고, 그 이해들이 내가 실제로 사용하는 프롬프트에 영향을 미치기 시작했다. 내 질문 방식이 달라지고 있었다. AI에 던지는 명령의 구조가 바뀌고 있었고 돌아오는 답변의 품질도 함께 변했다.

책 초반에도 언급되어 있듯이 책 원서의 정보가 2024년도에 2025년에 번역서가 나온 거라서 급변하는 기술발전 속도를 생각하면 애매한 느낌이 있지만 이 책이 다루는 건 일시적인 트렌드가 아니라 근본적인 원리들이라는 것을 이해하면 좋을 것 같다. 재미 수준을 넘어 실질적인 활용을 위해선 지금 정보로도 벅찬 느낌이다...

---

길벗출판사에서 도서를 제공받아 주관적으로 작성하였습니다.