한빛미디어

 2022년부터 현재까지 가장 뜨거운 감자로 부상한 LLM은 전통적인 공룡 기업인 구글, MS는 물론 대 LLM 시대의 신호탄을 터뜨린 OpenAI, 초신성처럼 등장한 앤트로픽 등 다양한 기업들이 연구하고 앞다퉈 서비스를 내놓으며 왕좌를 차지하기 위해 고군분투하고 있는 아이템이다. LLM은 현존하는 인공지능 기술 중 가장 AGI에 근접하다는 이야기도 나올 정도로 막강한 능력을 가지고 있는데, 이와 같은 능력 덕에 챗봇 또한 엄청나게 발전할 수 있었다. 룰 기반, 혹은 검색 기반으로 동작하던 기존의 챗봇과 달리, 최근의 챗봇은 백이면 백 LLM을 활용하고 있다고 보면 되는데, 이러한 챗봇은 대체 어떻게 만드는 걸까?

이 책에서는 가장 보편적인 LLM API 서비스인 ChatGPT API를 이용해서 자연스러운 챗봇을 만드는 과정을 설명하고 있다. 단순히 API를 호출해서 ChatGPT에 오롯이 의존하는 것이 아닌, 다양한 기능적 요소들을 추가함으로써 검색도 할 줄 알고 기분 나쁜 말도 걸러낼 줄 아는 똑똑한 챗봇을 만드는 것이 이 책의 목적이다.

솔직하게, 이 책을 읽기 전에는 그다지 큰 기대를 하지 않았다. LLM이 떠오르면서 그와 동시에 LLM을 활용하여 무언가를 만들어내는 책이나 강의가 우후죽순처럼 쏟아져 나왔지만, 하나같이 완성도가 떨어졌고 대부분 깊은 서비스 아키텍처에 대한 이해 없이 겉핥기만을 다루고 있었기 때문이다. 하지만 이 책은 좀 달랐다. 파이썬에 대한 지식이 없는 사람도 쉽게 따라 할 수 있는 동시에, 인공지능과 개발 영역에 대한 깊은 이해를 바탕으로 설명을 하고 있어 모든 레벨의 독자들을 아우르는 친절한 동시에 자세하고도 알찬 구성을 가지고 있었다. 개인적으로, 서버에 대한 깊이 있는 지식과 경험이 없는 나에게 LLM 챗봇 서버를 구성하는 파트는 큰 도움이 되어주었다. 대화가 종료되면 서버를 자동으로 종료할 수 있도록 구성하여서 서버 유지에 대한 부담을 줄여주는 동시에 이전 대화 내용을 서버 재구동 후에도 불러올 수 있게 하여 효율적이고 자연스러운 서비스를 구축할 수 있게 도왔다. 이는 단순히 LLM 챗봇 개발뿐만 아니라, 내 AI 모델의 MVP 서비스를 구축할 때에도 꽤나 큰 도움이 될 것 같았다.

이전 대화 내용을 효율적으로 저장하고 불러오는 프로세스

저자는 챗봇을 만들어나가는 과정에서 필요한 여러 기능을 단계를 차근차근 나눠서 설명함으로써 조금씩 완성된 챗봇을 만들어나간다. 독자들은 그 과정에서 큰 어려움 없이 이 과정을 따라갈 수 있고, 결과적으로 검색 기능, 과거 채팅 기억 기능은 물론 그림을 생성하고 인식하는 멀티 모달 기능과 답변을 오디오로 재생하는 TTS 기능까지 갖춘 우수한 챗봇을 만들 수 있게 된다. 이 책은 초심자를 위한 책이기에 깊이 있는 내용을 다루지는 않지만, 서비스적인 관점에서 필요한 여러 개발 팁들을 적절하게 적용하며 단계를 진행하고 있기에 중급자들도 읽어보기 좋은 책이다. 가볍게 읽으면서 필요한 기능만 쏙쏙 골라 사용할 수 있게 구성된 목차 덕에 바로 실무에 적용하기도 좋다.

이 책은 랭체인과 같은 프레임워크는 다루고 있지 않지만, 오히려 나는 그런 부분이 마음에 들었다. 랭체인과 같은 고급 통합 프레임워크로 추상화되어 있으면 개발과 활용은 쉬워지지만 정작 그 내부적인 동작은 알기 어렵게 되기 때문이다. 이 책에서 전체적인 구조를 이해하고 고급 프레임워크를 추가적으로 사용하여서 서비스를 만든다면 처음부터 추상화된 동작만을 이용하는 서비스보다 월등히 좋은 퀄리티의 서비스를 만들 수 있을 것이라고 생각된다.