한빛미디어

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

최근 OpenAI의 GPT 스리즈와 구글의 재미나이, 메타의 라마 등 LLM에 대한 관심이 폭발적이며, 관심의 증가세는 줄어들줄 모르는 형세 입니다. 비단 취업을 준비하는 대학생 뿐만 아니라 이미 개발의 깊이가 있는 시니어 레벨의 현업 개발자까지, LLM을 접목한 애플리케이션을 구상합니다. 하지만 높은 비용과 인프라 부담 때문에 많은 이들이 실제 서비스 구현을 알아보고 망설이게 됩니다. 이 도서, LLM 서비스 설계와 최적화는 이런 문제에 명쾌한 대답과 해설을 제시합니다.
이 책은 AWS의 수석 데이터 과학자인 슈레야스 스브라마니암 박사가 현장에서 얻은 풍부한 경험을 바탕으로, 성능을 희생하지 않으면서도 비용을 획기적으로 절감할 수 있는 실무 노하우와 전략을 제시합니다. 모델 선택, 데이터 전/후처리, 프롬프트 엔지니어링, 인스트럭션 파인튜닝 등 LLM 할용 전반의 핵심 주제의 이론부터 실전까지 폭넓은 내용을 친절하게 설명하고 있으며, 비용과 성능의 최적화와 이들간의 절묘한 무게중심을 잡는 방법을 안내합니다.

이 책의 핵심 주제는 LLM 기반 서비스의 비용 최적화 입니다. 총 6개 장에 걸처 생성형 AI 서비스를 설계하고 운영하는 전과정을 다루고 있으며, 성능 저하를 최소화하면서도 비용을 효과적으로 줄이는 방버을 다양한 각도에서 모색하며 함께 생각합니다. 예를들면 모델 선택부터 프롬프트 기법, 파인튜닝, 배포에 이르기까지 각 단계별 최적화 전략을 제시하여 적은 자원으로도 높은 성능을 내는 방법을 고민합니다. 이를 통해 독자는 기업환경에서 LLM을 실제로 활용할 때 마주하게 되는 난제인 인퍼런스와 인프라 비용을 어떻게 해결할 수 있는지 구체적으로 배우게 됩니다. 결국 이상적인 AI인퍼런싱인 똑똑하게 최적화된 AI, 최대의 AI성능과 가치 실현의 방안을 알려준다고 할 수 있습니다.

(1장) 생성형 AI 기초와 비용 최적화의 필요성 : 생성형 AI와 LLM의 기본 개념과 상용화 과정에서 직면하게 되는 도전 과제들을 이해하기 쉽게 풀어써 줍니다. 특히 비용 최적화가 왜 필수적인지 다양한 사례와 구체적인 데이터를 제시하여 내용을 더욱 설득력게 만듭니다. 이를 통해 독자들은 왜 LLM 서비스의 구현단계에서 반드시 비용문제를 고려해야만 하는지 명확하게 이해할 수 있습니다.

(2장) 파인튜닝(PEFT)을 통한 비용 효율화 : 대부분의 LLM은 거대해서 전체 모델을 매번 파인튜닝 하는것은 매우 비효율적입니다. 이에대한 해결 방법중 하나로 LoRA, 프롬프트 튜닝 등 일부 파라미터만 조정하여 계산 비용을 절감하는 파라미터 효율적 파인튜닝(PEFT)을 소개하며 특정 용도에 맞게 커스터마이징 하는 기법을 다룹니다. Falcon 40B 모델 등 실제 사례를 통해 PEFT적용시 비용 절감효과와 성능 변화를 분석하고 효과를 확인하며, 전체 파인튜닝 대비 경량화된 훈련기법의 실용성을 배우면서 이에 대한 원리와 이점을 깊이있게 이해하게 됩니다.

(3장) 효과적인 추론 최적화 전략 : 가장 실용적인 내용의 챕터이며, 프롬프트 엔지니어링 기법에서 부터 텍스트 요약, 배칭 프롬프트 처리, 모델 최적화에 이르기 까지 다양한 LLM 추론 테크닉을 소개합니다. 이를 기반으로 실제 서비스 운영 단계에서 추론 비용을 획기적으로 낮출 수 있는 다양한 전략을 소개합니다. 특히 긴 문서를 효율적으로 처리하는 체인 구조, 텍스트 요약을 활용한 전처리 기법 등 실제로 실무에 적용 가능한 구체적인 사례를 제시하는데, 현장에서 이를 바로 활용할 수 있는 금가루 팁도 얻을 수 있습니다. 프롬프트 구성과 추론 효율화에 관한 다각도의 전략도 습득할 수 있습니다.

(4장) 소형 모델과 도메인 특화 모델 선택 : 모든 기업이 GPT-4 레벨의 초거대 모델을 사용할 필요는 없습니다. 적은 자원으로도 미션과 목표 달성에 충분한 성능을 낼 수 있는 소형 모델(SLM)과 도메인 특화 모델을 선택하는 기준을 제안하면서, 메타의 미스트랄, Zephyr, Phi 등 최신 소형 모델들의 성공사례를 함께 제시합니다. 범용 모델을 활용한 프롬프트의 성능 섹션에서는 현재 사용 가능한 오픈 API 기반 모델들을 최대한 똑똑하게 활용하는 방법을 다루며, 작은 모델과 대형 모델 각각의 장단점을 전략적으로 비교합니다. 선택할 수 있는 다양한 모델을 테이블위에 펼쳐 놓고 선택지를 비교 분석하며 실제 개발과 운영환경에서의 고려할 요소와 대체 모델의 현실적인 가능성 중 합리적인 선택을 하는 방법을 배우게 됩니다.

(5장) LLM 인프라 및 배포전략 : 실제 LLM 서비스 단계에서 가장 크게 고민되는 부분은 운영에 지속적으로 소요되는 큰 비용입니다. LLM 서비스를 운영 환경에 배포하고 인프라를 최적화 하는 방안을 폭넓게 다루며, 운영시 비용을 줄이고 효율을 높이는 전략을 제시합니다. GPU오 ㅏCPU를 혼용하거나 클라우드 비용을 절감하거나 시스템 자동화 모니터링을 통한 지속적인 최적화를 다룹니다. TensorRT, DJL Serving 등 GPU 및 CPU 가속화 도구를 활용하여 하드웨어를 효율적으로 사용하고 모니터링과 옵저버빌리티 기법을 통해 비용 관리 전략을 세우는 등 실무에 고려해야만 하는 매우 실용적인 안내를 합니다. 특히 자동화된 배포 튜닝 전략은 클라우드 인프라 비용을 획기적으로 낮츨 수 있는 노하우로 독자는 LLMOps 관점에서 인프라 설계와 운영 튜닝에 대한 종합적인 지식을 얻을 수 있습니다.

(6장) 성공적인 생성형 AI 도입 전략과 미래전망 : 마지막장은 전체 내용, 특히 성능과 비용의 균형 관점을 종합적으로 정리하면서 생성형 AI를 도입에 성공하기 위한 팀 구성 및 전략적 접근법을 다룹니다. 미래의 트렌드로 MoE(전문가 혼합 모델), 멀티모달 AI, Ai 에이전트 등에 대한 통찰을 제공하여 독자들에게 보다 넓은 시야와 균형잡힌 시선을 가지는 방법을 알려줍니다. 빠르게 변화하는 AI 환경 속에서도 지속 가능한 서비스 전략을 수립하는 통찰을 얻게 됩니다.

본 도서의 가장 큰 장점은 다른도서에서는 등한시하는 경향이 있는 LLM 서비스의 비용 문제를 명확하게 인지하고 이를 깊이있게 파고들어 구체적인 해결책을 제공한다는 점입니다. 단순히 모델의 활용법이나 이론 설명에 그치지 않고 실제 운영 환경에서 마주치는 현실적인 문제들을 구체적으로 다룬다는 점은 타도서에서는 찾기 힘든 확실한 차별점입니다. 반면, 모든 주제를 다루려 하다 보니 특정 기술의 깊이나 독특한 사용 사례, 기술별 적용 방안에 대한 양적인 부분에 있어서 다소 아쉬울수 있습니다. 특히 다른 도서에서도 간헐적으로 느끼는 부분인데, 제시된 각 기법의 한계점에 대한 심층 논의도 부족한 편입니다. 또한 AI 분야의 발전 속도가 워낙 빠르다 보니 최신 모델이나 트렌드 내용은 책 출간 이후 새롭게 등장한 셋터도 있습니다. 구체적인 실험 데이터와 소 주제별 현업 사례가 더욱 풍부하다면 더욱 완벽했다고 느낄 수 있을 수도 있겠습니다. 하지만 도서의 분량과 내용은 이 책이 제공하려고 하는 핵심가치를 훼손하거나 부족하지 않습니다.

LLM 서비스 설계에서 가장 현실적인 문제는 비용입니다. 생성형 AI 서비스 개발에서 비용 최적화는 더 이상 선택이 아닌 필수이며, 이를 노골적이고 직접적으로 다루는 책은 흔치 않습니다. 이 책은 한권으로 LLM 실무 지식을 폭놃게 습득할 수 있는 효율적인 방법입니다. 기술적인 팁부터 비즈니스 관점까지 아우르는 내용은 스타트업부터 엔터프라이즈까지 실무자부터 의사결정권자까지 모두에게 통찰을 제공합니다. 책 내용은 일관되도록 핵심 주제를 관통하고 있으며, 책에서 제시한 개념과 기법들을 토대로 독자가 직접 실험하고 확장하는 과정을 통하여 자연스럽게 더 큰 통찰을 얻을 수 있도록 구성되었습니다. 아무래도 저자가 AWS 현업 전문가다 보니 이또한 신뢰를 주며, 각장의 내용을 따라가다 보면 자연스럽게 LLM프로젝트를 처음부터 구현하고 임퍼런싱하고 배용을 지불하는 방법까지 완전한 사이클을 익히게 됩니다. 한정된 자원으로 최고의 성과를 내고 싶은건 기본적인 욕망입니다. AI 기술 환경속에서 지속가능한 성능과 비용의 균형잡힌 길을 찾고 있다면 이 책이 그 사이 안개를 걷히게 해줄 수 있는 마법 주문이 될 것입니다.