한빛미디어

"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다."

생성형 AI 서비스, 누구나 한 번쯤은 만들어봤을 것이다

GPT API 연결하고, 사용하고자 하는 목적에 맞게 프롬프트 구성해서 결과 뽑고, UI까지 붙이면 데모까지는 쉽게 나온다

거기다 웹이나 앱 같은 UI 화면도 이런 ChatGPT를 사용하여 혼자서 구현하는 것이 가능하다
그러나 ‘서비스 수준’으로 끌어올리려는 순간 현실의 벽이 나타나게 된다

• 단가? 너무 비싸다. 트래픽 좀만 늘어나면 수백만 원 순삭.. ? 
• 응답 품질? 왔다갔다해서 QA 붙여도 불안하다. 단순히 API만을 쓸 경우 목적에 맞는 응답 품질이 보장되지 못한다
• 튜닝? 파인튜닝이 뭔지는 알겠는데, 적용이 쉽지 않다

LLM 서비스 설계와 최적화는 바로 그 다음 단계에서 방향을 잡지 못하고 있는 팀을 위한 책이다 

제목 그대로, LLM을 이용해 생성형 AI 어플리케이션으로 만들기 위해 어떤 부분들이 고려되어야 하는지를 다루고 있다

데모에서 프로덕션으로 넘어가기 위한 설계와 비용 최적화 전략을, 이론이 아니라 실무의 언어로 풀고 있기에 관련된 지식들이 필요하고 책의 난이도 자체가 있는 중고급자를 위한 책이다

따라서 개발적인 내용보단 설계, 전략에 대한 이론을 좀 더 중점적으로 다루고 있다

이 책은 단순히 LLM 기술을 소개하는 책이 아니다

LLM에 쓰이는 RAG, LangChain 등의 문법과 코드를 다루는 자료들은 많이 존재한다

이런 기술을 이미 갖추고 서비스를 만들고 있는 사람의 입장에서, “어디에 비용을 쓰고, 어디에서 줄여야 하는지” 기준을 제시해준다

• LLM 애플리케이션을 “서비스 수준”으로 운영하고 싶은 팀
• 비용 문제로 고민이 깊어지는 기획자와 PO
• RAG, 튜닝, 모델 선택에 있어 명확한 기준을 잡고 싶은 개발자

이런 사람들에게 실제 결정에 쓸 수 있는 프레임워크를 제공한다