한빛미디어

AI 프롬프트와 LLM을 공부하면서 접하게 되는 거짓된 정보를 할루시네이션이라고 합니다. 이번에 읽게 된 "할루시네이션을 줄여주는 프롬프트 엔지니어링"책은 할루시네이션을 설명하고 이 문제의 개선 방법에 대해 깊이 있게 고민해볼 수 있는 책입니다.

"할루시네이션을 줄여주는 프롬프트 엔지니어링"은 LLM, AI Agent를 공부하면서 반드시 함께 읽어야 할 내용입니다. 저 같은 경우에는 GPT OpenAI를 활용하여 개발하면서 실제적인 문제에 직면했습니다. 할루시네이션이 지속적으로 발생했고, 이것이 할루시네이션 문제라는 것은 알게 되었지만 어떻게, 어떤 방향으로 개선해야 할지 막막했습니다. 이 책은 단일 주제를 다양한 방식으로 접근하여 해당 문제를 해결할 수 있도록 도와주었습니다. LLM, AI Agent를 공부했다면 그다음에 꼭 읽어야 할 책이며, 함께 병행하면 더욱 좋습니다.

이 책을 읽기 위해서는 AI Agent, LLM, 랭체인, RAG 등을 한 번이라도 경험한 후에 읽는 것을 추천합니다. 관련 내용을 설명하고 있기는 하지만, 사전 지식이 있어야 더욱 수월하게 읽을 수 있습니다.

"할루시네이션을 줄여주는 프롬프트 엔지니어링"은 5개의 Chapter로 구성되어 있습니다.
Chapter 01. 프롬프트 엔지니어링 개요
프롬프트 엔지니어링과 LLM을 설명하고 있으며, 제로샷, 퓨샷 프롬프팅 등의 프롬프팅 기법들을 다룹니다. 책의 중반 이후를 이해하기 위한 기초 단계로, 프롬프트 엔지니어링의 기초를 학습할 수 있는 부분입니다.
Chapter 02. 할루시네이션 예방 기법
할루시네이션의 발생 유형(사실적, 논리적, 문맥적 할루시네이션)을 확인할 수 있고, 예방 기술과 관련 개념을 학습할 수 있는 챕터입니다. 이 책의 가장 핵심적이고 주요한 내용을 다루고 있습니다. 자기일관성, CoT 프롬프팅, 지식생성 프롬프팅, 자기검증 등에 대한 이론 및 개념 구현 방식을 설명합니다.
Chapter 03. 심화: 프롬프트 응용
랭체인 프레임워크, ReAct, 리플렉션, 멀티 에이전트, 도메인 특화 프롬프트 등을 학습할 수 있습니다. 심화 부분이라 다소 어려웠지만, 랭체인 프레임워크의 기본적인 내용을 확인할 수 있었습니다.
Chapter 04. 그라운딩과 지식 통합
그라운딩, RAG, RAG 체인, 라우터 체인 등을 학습할 수 있는 챕터입니다. 검색에서 자주 활용하게 되는 RAG 기법을 공부할 수 있습니다.
Chapter 05. 실전 프로젝트: 에이전트 만들기
실전 프로젝트로 3가지를 직접 구축해봅니다. 대화형 RAG 체인 구축, ReAct 프롬프트 기반 에이전트, 자율 에이전트 재구성 등 3가지 주제의 프로젝트를 직접 경험해볼 수 있습니다.

"할루시네이션을 줄여주는 프롬프트 엔지니어링" 책의 장점은
1. 할루시네이션 예방·방지 기술 수록
Chapter 02. 에서 할루시네이션을 중점적으로 설명하고 있습니다. 자기일관성, CoT 프롬프팅, 지식생성 프롬프팅, 자기검증 등 할루시네이션을 개선하기 위한 다양한 예방 기술을 확인할 수 있습니다.
2. 실전 예제
각 예방 기법과 실전 프로젝트에서 실제적인 이론과 개념을 설명하고, 관련 예제 및 활용 소스를 함께 제공하여 한 번에 해당 개념 및 해결 방식을 학습할 수 있도록 구성되어 있습니다.
3. 쉬운 개념 설명과 실무 적용 가능한 소스 코드
할루시네이션 해결 용어가 처음에는 낯설었는데, 쉽고 친숙한 이야기를 중심으로 개념을 설명하며 그림과 표로 내용을 정리합니다. 아폴로 11호 이야기, 퀴리 부인 예제 등 친숙한 사례를 통해 할루시네이션의 발생과 해결 방법을 이해하기 쉽게 구성되어 있으며, 소스 코드로 직접 구현해볼 수 있습니다.

선수 지식
책에서는 다음과 같은 선수 지식을 권장하고 있습니다.
1. 파이썬 프로그래밍: 초중급 수준의 파이썬 코딩 능력(함수, 클래스, 예외 처리 등)
2. 기본적인 머신러닝 이해: 지도학습 및 머신러닝 기본 개념
예제가 파이썬으로 작성되어 있기 때문에 파이썬의 기본 개념을 알고 있다면 직접 실습을 통해 내용을 학습하고 이해할 수 있습니다. 또한 LLM이나 AI Agent에 대한 기본 지식만 있으면 충분히 읽는 데 문제가 없습니다.

대상 독자
책에서 제시하는 대상 독자는 다음과 같습니다.
1. 실제 비즈니스 환경에서 신뢰할 수 있는 AI 서비스 구축을 담당하는 개발팀
2. LLM의 신뢰성과 정확성 향상에 관심이 높은 AI 엔지니어 및 MLOps 전문가
3. 파이썬 프로그래밍과 기본적인 머신러닝 지식을 바탕으로 LLM 활용 역량을 심화하고자 하는 전문가
4. 데이터 분석 경험을 바탕으로 LLM을 활용한 고급 분석 기법을 학습하고자 하는 실무자
LLM을 공부하거나 AI Agent를 개발하거나 실습하다 보면 할루시네이션을 경험하게 되고, 그 문제의 해결 방법에 대해 고민하게 됩니다. 저도 이 문제 때문에 이 책을 선택하여 읽게 되었는데, 그때가 이 책을 읽는 가장 좋은 시점이 될 것입니다. 할루시네이션에 대한 다양한 내용과 해결 방법, 마지막 프로젝트를 통해 실질적인 해결 방식을 흥미롭게 학습할 수 있습니다.
조금 어려운 내용의 책이기는 합니다. 하지만 LLM과 AI Agent를 공부하면서 마주쳤던 할루시네이션을 해결하는 방법을 이 책을 통해 학습할 수 있어서 좋았습니다.

LLM을 공부한다면 꼭 읽어야 할 책입니다. AI Agent를 공부하고 업무에 활용한다면 더더욱 읽어야 할 책입니다.

"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다."