한빛미디어

'한빛미디어 서평단 <나는 리뷰어다> 활동을 위해서 책을 협찬받아 작성한 서평입니다.'

구현과 운영 사이, 전체 그림을 그리는 '설계'에 대한 궁금증이 있었는데 이 책 《실무로 통하는 LLM 애플리케이션 설계》를 만나게 되었습니다. 이 책은 LLM 기본 개념을 아는 개발자가 시스템을 설계하려 할 때 읽으면 좋습니다. RAG, 파인튜닝 같은 용어를 들어본 적 있고, 이제 하나의 완성된 프로덕트를 만들고 싶다면 딱 맞는 책입니다. 

책은 제목처럼 철저하게 '설계'와 '전략'에 집중합니다. 실무자가 현장에서 가장 고민하는 지점들, 예를 들어 파인 튜닝(Fine-tuning)과 RAG(검색 증강 생성) 중 무엇을 선택해야 할지, 처음부터 모델을 만들 것인지 아니면 상용 API를 가져다 쓸 것인지와 같은 트레이드오프를 명쾌하게 분석해 줍니다. 이런 접근 덕분에 막연하던 시스템 구축의 방향이 좀 잡혔습니다. 특히 인상 깊었던 부분은 애플리케이션 활용 패러다임을 다룬 3부였습니다. 요즘 화두가 되는 RAG나 에이전트, 랭체인(LangChain), LlamaIndex 같은 도구들을 소개하는 데 그치지 않고, 이들을 어떻게 조합해야 실제 문제를 해결하는 아키텍처가 되는지 보여주었기 때문입니다.

이 책은 LLM 환경에 대한 종합적인 가이드를 제공하며, 
복잡한 LLM 애플리케이션을 구축하는 데 필요한 직관과 도구를 갖추도록 돕습니다.
《실무로 통하는 LLM 애플리케이션 설계》, 13p

책을 읽으면서 많은 연습 문제와 함께 생각할 거리가 많았습니다. 1966년 챗봇의 시초인 'ELIZA' 논문을 통해 대화형 AI의 뿌리를 더듬어보는가 하면, 영화 '스파이더맨'의 앤드류 가필드 위키백과 페이지에서 정보를 추출해 JSON 스키마로 구조화해 보는 문제는 텍스트 생성을 넘어, 비정형 데이터를 시스템이 처리 가능한 정형 데이터로 변환하는 LLM의 기능을 확인할 수 있었습니다.

또한 프롬프트 해킹을 막기 위한 가드레일 작성, 직접 데이터셋을 만들어 파인 튜닝 후 코사인 유사도를 측정해 보는 과정, 캐나다 의회 토론 데이터셋으로 모델을 평가해보는 경험 등은 실무 감각을 키우기에 도움이 될 것 같네요. 연습 문제에 필요한 데이터셋과 논문, 연구 자료는 책의 깃허브(https://github.com/corazzon/designing-llm-apps)에) 에 꼼꼼하게 정리되어 있어 바로 참고하기 좋았습니다.

AI 시대를 살아가는 엔지니어에게 던지는 화두도 흥미로웠습니다. 사전 학습 데이터의 저작권 문제나 AI 생성 데이터가 다시 학습에 쓰일 때의 영향, 토큰화 알고리즘의 부작용으로 생겨난 'SolidMagiGoldKarp' 같은 기묘한 현상, 그리고 LLM의 암기 능력으로 인한 보안 취약성 등은 책을 읽는 동안 생각이 멈추지 않게 만들었습니다.

아쉬운 점이 없지는 않습니다. LLM의 '설계'라는 관점을 다루다 보니, 당장 복사해서 쓸 수 있는 코드 레벨의 상세한 구현 예제는 상대적으로 적습니다. 따라서 LLM을 처음 접하는 입문자보다는, 이미 기본기는 갖췄으나 하나의 완성된 프로덕트나 서비스를 고민하는 개발자나 아키텍트에게 더 적합해 보입니다. 책은 LLM 시스템을 설계하는 사람들에게 방향을 잡아주는 나침반 같았습니다. 팀에서 기술 결정을 내려야 하거나, 할루시네이션이나 편향 문제를 미리 대비하고 싶다면 추천하고 싶습니다.