메뉴 바로가기 검색 및 카테고리 바로가기

한빛미디어

독자리뷰

LLM 엔지니어링을 읽고

sangj***

|

2025-06-26

LLM 엔지니어링

LLM 엔지니어링의 모든 것을 망라한 실전 가이드

  • 저자 : 폴 이우수틴 , 막심 라본
  • 번역 : 조우철
  • 출간 : 2025-05-02

"한빛미디어 서평단 <나는 리뷰어다> 활동을 위해서 책을 협찬받아 작성된 서평입니다."


한빛미디어의 『 LLM 엔지니어링』도서는 그야말로 생성형 AI 시대에 맞는 실전서다. 책을 펼치기 전에는 “요즘 또 LLM 책인가 보다” 하고 반신반의했지만, 막상 읽다 보니 이 책은 단순히 모델을 설명하고 끝나는 책이 아니라, 하나의 AI 제품이 어떻게 탄생하고 작동하며, 현실 속에서 굴러가는지를 총체적으로 보여주는 드문 책이었다.


무엇보다 좋았던 점은, LLM Twin이라는 개념을 실제 서비스처럼 다룬다는 점이다. 단순한 챗봇이나 RAG 시스템이 아니라, 마치 “디지털 트윈”처럼 하나의 지능형 주체가 되어 사용자와 상호작용하는 시스템을 만들겠다는 관점이 꽤 신선하게 다가왔다. AI를 단순한 기능의 집합이 아닌, ‘제품’처럼 바라보게 만든다는 점이 이 책의 가장 큰 차별점이었다.


초반부에 LLM Twin의 구조와 개념을 소개할 때는 “과연 이걸 현실에서 구현할 수 있을까?” 하는 의문도 들었지만, 이어지는 챕터를 따라가다 보면 어느새 그 구조가 현실 가능한 설계로 다가온다. 특히 아키텍처 설계 파트에서는, 이론과 실제 구현 사이를 적절히 오가며 설계 원칙과 선택 기준을 명확하게 제시해 준다. 단순히 그럴싸한 블록 다이어그램이 아니라, 어떻게 하면 운영 가능하고 유연한 시스템이 될 수 있을까에 대한 고민이 엿보인다.

개인적으로 가장 몰입해서 읽었던 부분은 도구 설정과 RAG 파이프라인이었다. Malvus 벡터 DB만 써본 나에게 Weaviate나 ChromaDB 같은 벡터 DB의 선택 기준, LangChain과 같은 프레임워크의 활용법, 그리고 무엇보다 RAG가 단순히 검색 + 생성의 조합이 아니라는 것을 다시 한번 체감하게 해줬다. “고급 RAG” 챕터에서 등장하는 다양한 문서 분할 전략이나 임베딩 개선 방식은 당장 프로젝트에 적용하고 싶을 정도로 현실적이고 구체적이다.

중반 이후부터는 본격적으로 학습 파이프라인을 다루는데, SFT(지도 학습 기반 파인튜닝)와 DPO(선호도 기반 최적화)는 GPT 류 모델을 커스터마이징하려는 사람들에게 정말 유용한 가이드였다. 개인적으로는 SFT를 여러 번 시도해 본 경험이 있어, 이 책의 설명이 얼마나 실전적인지 피부로 느낄 수 있었다. 단지 “이렇게 하면 됩니다”가 아니라, 왜 그렇게 해야 하고, 그 과정에서 어떤 문제가 생길 수 있는지까지 짚어주는 점이 특히 좋았다.
 

그리고 정말 고마웠던 부분은, 모델 학습만큼이나 ‘추론 환경’과 ‘운영 관점’에 대해서도 깊이 있게 다룬다는 점이다. 많은 책들이 학습까지만 설명하고 끝나지만, 현실에서는 운영이 더 힘들고 중요하다. 이 책은 그런 점을 간과하지 않고, 추론 최적화, 양자화, 병렬 처리 전략, 배포 아키텍처, 오토스케일링 등까지 섬세하게 안내해 준다. 이 부분을 읽으면서 “아, 이건 정말 현업에서 만든 책이구나”라는 느낌이 강하게 들었다.

후반부 MLOps/LLMOps에 대한 논의도 인상 깊었다. DevOps → MLOps → LLMOps로 이어지는 진화 과정 속에서, 실제 어떤 원칙을 가지고 어떤 도구를 써야 하는지 정리되어 있어 좋았다. 부록에 있는 MLOps 원칙들을 읽으면서는, 마치 나 자신이 지금까지 얼마나 복잡하게만 생각하고 있었는지 돌아보게 되었다. “자동화가 목적이 아니라, 운영이 목적이다”라는 한 줄은 책을 덮은 뒤에도 오래 마음에 남았다.

이 책은 단순히 하나의 기술을 설명하는 책이 아니다. AI 시스템 전체를 한 번도 끝까지 경험해 보지 못한 사람이라면, 이 책을 통해 한 번 완주해 보는 느낌을 받을 수 있을 것이다. 반대로 이미 실무에서 AI 시스템을 운영하고 있는 사람에게는 자신의 아키텍처를 되돌아보게 만드는, 꽤 자극적인 거울이 될 수도 있다.

한마디로 말해, 이 책은 AI 시스템을 ‘진짜 제품처럼’ 만들고 싶은 사람에게 딱 맞는 책이다. 읽고 나면, “나도 이런 시스템을 만들 수 있을 것 같다"라는 자신감과 함께, 어쩌면 “지금까지는 너무 단편적으로 AI를 바라봤구나”라는 약간의 부끄러움도 함께 남는다.

솔직히 술술 넘어갈 정도로 쉬운 난이도는 절대 아닌 내용의 도서지만 개인적으로는 올해 읽은 기술서 중 가장 실질적인 인사이트와 동기부여를 동시에 준 책이었다.
 

닫기

해당 상품을 장바구니에 담았습니다.이미 장바구니에 추가된 상품입니다.
장바구니로 이동하시겠습니까?