zin1***
2025-11-30

아키텍처 설계부터 최적화까지 한 권으로 배우는 LLM 애플리케이션 개발 전략
한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다.
그동안 틈틈이 데이터 분석이나 빅데이터 등을 공부하면서 심심치 않게 LLM에 대해 들어봤다. 대규모 언어 모델(LLM)이라고 하면 어렵게 들리겠지만, 사실 이제는 우리가 일상에서도 많이 사용하는 챗GPT와 같은 AI의 기본이 되는 딥러닝 모델이다.
이미 국내에서도 많은 기업들이 AI를 이용해 서비스를 출시하고 있고, 여전히 새로운 서비스를 만들기 위해 분주히 노력하고 있다. 다만 LLM을 구축하는 데는 상당히 많은 비용이 들기 때문에 사용 LLM이나 오픈 소스 LLM을 사용하는 편이다.
이 책은 LLM 애플리케이션의 개발을 앞두고 있다면 실무적으로 참고하기 좋은 책이다. 책을 읽어보기 전에는 AI 서비스를 만들려면 이미 만들어진 모델을 사용하면 되지 '왜 LLM이 무엇인가를 배워야 하지' 이런 생각이 먼저였다. 하지만 조금씩 책의 진도를 넘어가면서 왜 배워야 하고 어떻게 실무에서 해야 하는지 알려준다. 책의 비유를 빌리자면 우리가 마트에서 물건을 구입할 때 제품의 성분표를 읽는 것과 같다. 우리가 가공식품을 구입할 때 성분과 함량을 꼼꼼히 비교하는 것처럼 LLM을 구성하는 핵심 요소와 원리에 대해 알아야 이를 잘 활용할 수 있는 것이다.
현재 시점에서 우리가 접하고 활용할 수 있는 LLM의 종류에 대한 소개부터 어떤 LLM이 적합한지 선택하고, 최적의 성능으로 활용할 수 있도록 도와주는 내용들을 담고 있다. LLM은 아직 완벽하지 않다. 다양한 영역에서 추론에 한계를 보이고, 현실과 다른 내용을 생성하는 환각 문제도 있다. 이러한 한계점을 보완하기 위한 다양한 방법들을 설명한다. 전반적으로 LLM에 대해 방대하고 전문적인 지식들을 제공하고 있다.
사실 읽으면서 LLM과 관련된 많은 전문 용어들을 마주해야 하기 때문에 쉽게 이해하지 못하는 부분도 많이 있다. 그리고 당장 실무적으로 활용할 계획이 아니라서, 현재는 가볍게 훑어보고 정말 필요한 시점에서 다시 읽어봐야 할 부분도 많이 보인다. 그리고 우리가 자주 사용하는 생성형 AI의 구조와 원리가 어느 정도 이해할 수 있게 되었다.
책에서 설명하는 내용들 중 일부는 실무적으로 직접 해볼 수 있게 코드로 설명하는 부분들이 있다. 예를 들어 챗봇 프로토타입을 만들거나 파인튜닝을 하기 위해 라이브러리를 연습하도록 코드들이 삽입되어 있다. 물론 이러한 코드를 사용하기 위한 개발 환경적인 부분은 설명하지 않는다. 기본적인 전제가 LLM 애플리케이션 개발을 위한 것이므로 개발의 기초적인 부분은 생략되고 LLM 분야에 대한 전문적인 지식 위주로 소개되고 있다.
책을 읽으면서 이미 만들어진 LLM의 API를 활용해서 애플리케이션을 만드는 것도 쉬운 일이 아니라는 것을 깨달았다. 이미 주변에서 사용해 볼 수 있는 여러 AI 서비스들도 이러한 노력이 충분히 반영된 것인가 궁금하기도 하고 기회가 된다면 좋은 LLM 애플리케이션을 구축해 보고 싶다는 생각도 들었다.