“할루시네이션은 버그가 아니라 LLM의 창조적 특성이다!” 할루시네이션 특성을 ‘제대로’ 제어하는 법을 다루는 최초의 프롬프트 가이드북
LLM을 사용하거나 서비스에 적용할 때 가장 큰 장애물은 ‘할루시네이션’이다. 이 책은 지금껏 단순한 버그로 여겨졌던 할루시네이션을 제어 가능한 속성으로 바라보고, 이를 줄이는 다양한 프롬프트 엔지니어링 기법과 RAG, 에이전트 설계 전략을 코드 실습과 함께 구체적으로 다룬다. OpenAI, Gemini, 랭체인 등 최신 도구로 실습하며 프로덕션 수준의 신뢰성 있는 AI 애플리케이션을 구현하는 방법 또한 배울 수 있다. AI를 단순히 ‘써보는’ 단계를 넘어 직접 서비스에 녹여내고 싶은 AI 엔지니어와 개발자에게 필수 지침서가 되어줄 것이다.
저자소개
저자
한성민
10년 차 MLOps 엔지니어. Google Developer Expert (GDE) for AI/ML과 Google Cloud Champion Innovator로 활동하는 중이다. 뤼이드에서 테크 디렉터로서 MLOps 파이프라인 구축과 ML 비즈니스 기술 전략을 담당했으며 네이버 클로바 리서치 엔지니어, 심심이 소프트웨어 엔지니어로 근무한 바 있다. 개발자 커뮤니티의 적극적인 지지자로서 Golang Korea 커뮤니티 운영자이며, PyCon Korea에서 파이썬 관련 발표를 진행하는 등 지식 공유 활동을 지속하고 있다. 현재는 F-Lab의 파이썬, ML Engineering 멘토와 패스트캠퍼스 MLOps 강사로도 활동 중이다. LLM 구축과 프롬프트 엔지니어링을 통한 교육 분야 개선에 관심이 높으며, Gemma SFT의 다양한 활용 사례를 발굴하고 있다. 여러 국가에서의 기술 소통과 AI 기술 검증을 통해 실질적인 인사이트를 도출하는 것을 즐기며, 다양한 IT 프로젝트와 컨퍼런스를 통해 지식을 전파하고 있다.
목차
[CHAPTER 01 프롬프트 엔지니어링 개요]
1.1 프롬프트 엔지니어링이란 1.2 대규모 언어 모델 1.3 기본 환경 설정 __Google Colaboratory __OpenAI API __Gemini API 1.4 LLM 실습 1.5 오늘날의 프롬프팅 기법들 __제로샷 및 퓨샷 프롬프팅 __CoT 프롬프팅 __검색 증강 생성
[CHAPTER 02 할루시네이션 예방 기법]
2.1 할루시네이션의 정의와 유형 2.2 할루시네이션 발생 유형 __사실적 할루시네이션 __논리적 할루시네이션 __문맥적 할루시네이션 2.3 할루시네이션을 예방하는 기술 __데이터 품질 개선 __모델 아키텍처 개선 __사후 검증 기법 __프롬프트 엔지니어링 기법 2.4 프롬프트 엔지니어링 기법 __셀프 어텐션 메커니즘 이해 __셀프 어텐션을 고려한 프롬프트 엔지니어링 __프롬프트 엔지니어링이 가능한 이유 2.5 자기 일관성 2.6 CoT 프롬프팅 2.7 지식 생성 프롬프팅 2.8 자기 검증 2.9 CoVe 프롬프팅 2.10 평가 및 진단 도구 __LLM 할루시네이션 평가의 필요성 __벤치마크 데이터셋 __오픈소스 진단 도구 __기업 환경에서의 활용
[CHAPTER 03 심화: 프롬프트 응용]
3.1 프롬프트 체인 __프롬프트 체인 개념 및 활용 __프롬프트 체인 구현 예제와 상세 분석 3.2 랭체인 프레임워크 __랭체인 도입 __랭체인 구성 요소 __랭체인 실습 3.3 ReAct __ReAct의 등장 배경 __ReAct의 구조 __ReAct 예제 3.4 리플렉션 __리플렉션의 메커니즘: 실행, 평가, 성찰, 그리고 기록 __리플렉션 예제 3.5 프롬프트 가드레일 __가드레일의 필요성 __가드레일 설계의 두 가지 접근법: 규범과 덕목 __[예제 1] ShieldGemma를 이용한 출력 콘텐츠 검증 __[예제 2] 다계층 가드레일 아키텍처 3.6 멀티 에이전트 시스템 __단일 에이전트 아키텍처의 본질적 한계 __멀티 에이전트 아키텍처 __주요 협력 패턴과 할루시네이션 제어 __멀티 에이전트 아키텍처 예제 3.7 도메인 특화 프롬프트 __도메인 특화 프롬프트의 이해 __도메인 특화 프롬프트 예제 3.8 LLM 시스템 평가와 관측 가능성 __무엇을, 왜, 어떻게 측정할 것인가? __오프라인 평가 파이프라인 구축 __평가 예제: 랭스미스를 이용한 RAG 시스템 진단 및 개선
[CHAPTER 04 그라운딩과 지식 통합]
4.1 그라운딩 개념과 필요성 4.2 검색 증강 생성 __RAG의 필요성 __RAG 아키텍처 __임베딩과 벡터 저장소 __데이터 처리 파이프라인 __RAG 예제 파이프라인 구축 __RAG, 할루시네이션을 어떻게 제어하는가? __RAG의 효과 4.3 데이터 통합과 지식 그래프 __지식 그래프 도입 __왜 RAG에 지식 그래프를 결합해야 하는가? __지식 그래프를 활용한 RAG 구현 패턴 __지식 그래프 RAG 구현하기: Text-to-Cypher __ 지식 그래프 구현 방식의 한계 4.4 그라운딩 기법을 고려한 체인 __RAG 체인 __라우터 체인 __자기 교정 RAG 루프 4.5 에이전트 디자인을 통한 지식 통합 __지식 통합을 위한 에이전트 도구 구성 __복합 질문을 해결하는 에이전트의 사고 과정 분석 __장기 기억과 지식 그래프의 결합 __랭체인 에이전트를 이용한 지식 통합
[CHAPTER 05 실전 프로젝트: 에이전트 만들기]
5.1 첫 번째 프로젝트: 나만의 백과사전 챗봇 5.2 두 번째 프로젝트: 실시간 질의응답 에이전트 5.3 세 번째 프로젝트: 주식 트렌드 분석 에이전트 5.4 프로젝트를 마무리하며
[부록: 고급 기법과 도구 소개]
A 심화 프롬프팅 기법 B 주요 도구 및 라이브러리 C 책임감 있는 AI 구축
출판사리뷰
프롬프트 한 줄부터 시작해 할루시네이션을 제어하는 LLM 서비스 완성까지
AI 엔지니어가 현재 직면한 과제는 ‘LLM의 창의성은 살리면서, 오류는 줄이는 것’이다. 이 책은 AI 분야에서 가장 난해한 문제인 할루시네이션을 해결하기 위한 체계적이고 실용적인 해법을 제공한다. 프롬프트 엔지니어링의 기본 원리부터 출발해 생각의 사슬(CoT), 자기 일관성(Self-Consistency), 검증의 사슬(CoVe), 리플렉션(Reflection) 같은 기법을 차례대로 익히며 모델 스스로 논리 흐름을 구조적으로 정리하거나 재검증하게 만드는 등 LLM의 능력을 극대화하는 다양한 방법을 배운다. 나아가 RAG, 지식 그래프, 멀티 에이전트 구조를 통해 신뢰성 높은 외부 지식과 검증 체계를 결합해 할루시네이션 없는 AI 서비스 아키텍처를 완성한다. 개인화 백과사전 챗봇, 실시간 QA 에이전트, 주식 트렌드 분석 에이전트 등 실제 프로젝트를 따라가다 보면 단순히 모델을 ‘호출’하는 수준을 넘어 신뢰할 수 있는 AI 서비스를 직접 만드는 경험을 쌓을 수 있다.
Step 1 | LLM과 프롬프트 엔지니어링 기초 - 기본 개념 이해와 실습 환경 설정
Step 2 | 할루시네이션 예방 기법 - 자기 일관성, CoT, CoVe, 자기 검증, 지식 생성 프롬프팅
Step 3 | 프롬프트 응용 - 랭체인, ReAct, 리플렉션, 멀티 에이전트 설계
Step 4 | RAG와 지식 통합 - 외부 데이터 연동, 지식 그래프, 안정적 검색
Step 5 | 실전 프로젝트 - 개인화 챗봇, 실시간 Q&A, 트렌드 분석 에이전트 완성
Step 6 | 최신 기법과 도구 - 심화 프롬프팅 기법, 책임감 있는 AI 구현 전략
이 책의 대상 독자
신뢰할 수 있는 AI 서비스 구축을 담당하는 개발자
LLM의 신뢰성과 정확성 향상에 관심이 많은 AI 엔지니어 및 MLOps 전문가
LLM을 활용한 고급 분석 기법을 학습하고자 하는 실무자
파이썬과 머신러닝 지식을 바탕으로 LLM 활용 역량을 심화하고자 하는 전문가
먼저 읽은 베타리더들의 한 마디
프롬프트 엔지니어링이라는 개념을 한 차원 더 높은 ‘AI 시스템 설계’의 영역으로 확장한다. RAG, 리플렉션, 멀티 에이전트 등 최신 기술을 풍부한 코드 예제와 함께 설명하는 부분은 이 책의 가장 큰 강점이다. _이석곤 님
이제서야 할루시네이션에 제대로 초점을 맞춘 LLM 도서가 등장했다. 프롬프트 엔지니어링에 관심 있는 사람이라면 꼭 읽어야 할 책이다. _이장훈 님
이론뿐만 아니라 실제 적용 사례까지 담겨 있어 AI를 보다 신뢰성 있게 활용하고자 하는 이들에게 유익한 길잡이가 되어줄 것이다. _신진욱 님
한빛미디어의 '나는 리뷰어다' 10월 서평단으로 '할루시네이션을 줄여주는 프롬프트 엔지니어링' 책을 선택하여 종이책으로 받아 읽게 되었다.
생성형 AI가 떠오르면서 프롬프트 엔지니어링이라는 말을 들어봤을 것이다. 프롬프트를 잘 작성하면 생성형 AI (ex, Chat GPT)를 더 효율적으로 사용할 수 있다고도 들어봤을 것이다.
다만, 들어만 보고 어떻게 해야할 지 접근하기 어려운건 사실이다. 이 책은 프롬프트 작성을 위한 기법도 있지만, 거기에 더해 "할루시네이션"을 줄여주는 기법들을 소개하고 있다.
할루시네이션이라고 함은 없는 정보들, 가짜 정보들을 마치 진짜인 것처럼 말하는 생성형 AI의 치명적인 약점이라고 볼 수 있다. 답을 해야하지만, 답을 모르는 상황에서 이런 저런 정보들을 가지고 끼워맞춰 말하는 경우를 종종 경험했을 것이다.
이런 할루시네이션을 줄이기 위한 여러가지 프롬프트 엔지니어링 기법들을 소개해주고 있는 책이다.
개인적으로 내용은 개발에 대해 잘 모르는 비전공자들이 접근하기에 다소 어려울 수 있다고 생각했다. 생소한 개념들은 물론, 생성형 AI의 프롬프트를 작성하여 좀 더 정확한 답을 구하는데 사용하는 코드를 이해할 수 있어야 하며, 응용까지 하기 위해서는 현재 개발자로 일하고 있음에도 불구하고, 주의깊게 읽을 필요가 있었다.
다만, 그만큼 내용은 괜찮았다고 생각이 들었다. 프롬프트 엔지니어링에 한정된 내용이라고 하지만, 그럼에도 전반적으로 광범위한 내용을 다루기 때문에, 엄청 깊이있게 개념을 설명하는 정도는 아니다. 다만, 전반적인 내용을 설명하고, 활용해주기 때문에 프롬프트 엔지니어링을 시작하기에는 정말 도움이 많이 될 것이라고 생각이 된다.
특히, 회사에서도 프롬프트 엔지니어링을 통한 과제를 생각하고 있어, 많은 도움이 될 것 같다.
프롬프트 엔지니어링에 관심을 가지고 있다면, 이 책을 읽어보기를 추천한다. 할루시네이션을 줄일 뿐만 아니라, 가벼운 프로젝트를 통해 프롬프트 엔지니어링을 응용해볼 수 있기 때문이다.
아는 것 보다 역시 가벼운 에이전트라도 만들어서 활용을 해보는 것이 도움이 되기 때문에, 너무 어렵게 생각하지 말고 책을 읽으면서 도전해볼만하다고 생각한다.
AI 프롬프트와 LLM을 공부하면서 접하게 되는 거짓된 정보를 할루시네이션이라고 합니다. 이번에 읽게 된 "할루시네이션을 줄여주는 프롬프트 엔지니어링"책은 할루시네이션을 설명하고 이 문제의 개선 방법에 대해 깊이 있게 고민해볼 수 있는 책입니다.
"할루시네이션을 줄여주는 프롬프트 엔지니어링"은 LLM, AI Agent를 공부하면서 반드시 함께 읽어야 할 내용입니다. 저 같은 경우에는 GPT OpenAI를 활용하여 개발하면서 실제적인 문제에 직면했습니다. 할루시네이션이 지속적으로 발생했고, 이것이 할루시네이션 문제라는 것은 알게 되었지만 어떻게, 어떤 방향으로 개선해야 할지 막막했습니다. 이 책은 단일 주제를 다양한 방식으로 접근하여 해당 문제를 해결할 수 있도록 도와주었습니다. LLM, AI Agent를 공부했다면 그다음에 꼭 읽어야 할 책이며, 함께 병행하면 더욱 좋습니다.
이 책을 읽기 위해서는 AI Agent, LLM, 랭체인, RAG 등을 한 번이라도 경험한 후에 읽는 것을 추천합니다. 관련 내용을 설명하고 있기는 하지만, 사전 지식이 있어야 더욱 수월하게 읽을 수 있습니다.
"할루시네이션을 줄여주는 프롬프트 엔지니어링"은 5개의 Chapter로 구성되어 있습니다. Chapter 01. 프롬프트 엔지니어링 개요 프롬프트 엔지니어링과 LLM을 설명하고 있으며, 제로샷, 퓨샷 프롬프팅 등의 프롬프팅 기법들을 다룹니다. 책의 중반 이후를 이해하기 위한 기초 단계로, 프롬프트 엔지니어링의 기초를 학습할 수 있는 부분입니다. Chapter 02. 할루시네이션 예방 기법 할루시네이션의 발생 유형(사실적, 논리적, 문맥적 할루시네이션)을 확인할 수 있고, 예방 기술과 관련 개념을 학습할 수 있는 챕터입니다. 이 책의 가장 핵심적이고 주요한 내용을 다루고 있습니다. 자기일관성, CoT 프롬프팅, 지식생성 프롬프팅, 자기검증 등에 대한 이론 및 개념 구현 방식을 설명합니다. Chapter 03. 심화: 프롬프트 응용 랭체인 프레임워크, ReAct, 리플렉션, 멀티 에이전트, 도메인 특화 프롬프트 등을 학습할 수 있습니다. 심화 부분이라 다소 어려웠지만, 랭체인 프레임워크의 기본적인 내용을 확인할 수 있었습니다. Chapter 04. 그라운딩과 지식 통합 그라운딩, RAG, RAG 체인, 라우터 체인 등을 학습할 수 있는 챕터입니다. 검색에서 자주 활용하게 되는 RAG 기법을 공부할 수 있습니다. Chapter 05. 실전 프로젝트: 에이전트 만들기 실전 프로젝트로 3가지를 직접 구축해봅니다. 대화형 RAG 체인 구축, ReAct 프롬프트 기반 에이전트, 자율 에이전트 재구성 등 3가지 주제의 프로젝트를 직접 경험해볼 수 있습니다.
"할루시네이션을 줄여주는 프롬프트 엔지니어링" 책의 장점은 1. 할루시네이션 예방·방지 기술 수록 Chapter 02. 에서 할루시네이션을 중점적으로 설명하고 있습니다. 자기일관성, CoT 프롬프팅, 지식생성 프롬프팅, 자기검증 등 할루시네이션을 개선하기 위한 다양한 예방 기술을 확인할 수 있습니다. 2. 실전 예제 각 예방 기법과 실전 프로젝트에서 실제적인 이론과 개념을 설명하고, 관련 예제 및 활용 소스를 함께 제공하여 한 번에 해당 개념 및 해결 방식을 학습할 수 있도록 구성되어 있습니다. 3. 쉬운 개념 설명과 실무 적용 가능한 소스 코드 할루시네이션 해결 용어가 처음에는 낯설었는데, 쉽고 친숙한 이야기를 중심으로 개념을 설명하며 그림과 표로 내용을 정리합니다. 아폴로 11호 이야기, 퀴리 부인 예제 등 친숙한 사례를 통해 할루시네이션의 발생과 해결 방법을 이해하기 쉽게 구성되어 있으며, 소스 코드로 직접 구현해볼 수 있습니다.
선수 지식 책에서는 다음과 같은 선수 지식을 권장하고 있습니다. 1. 파이썬 프로그래밍: 초중급 수준의 파이썬 코딩 능력(함수, 클래스, 예외 처리 등) 2. 기본적인 머신러닝 이해: 지도학습 및 머신러닝 기본 개념 예제가 파이썬으로 작성되어 있기 때문에 파이썬의 기본 개념을 알고 있다면 직접 실습을 통해 내용을 학습하고 이해할 수 있습니다. 또한 LLM이나 AI Agent에 대한 기본 지식만 있으면 충분히 읽는 데 문제가 없습니다.
대상 독자 책에서 제시하는 대상 독자는 다음과 같습니다. 1. 실제 비즈니스 환경에서 신뢰할 수 있는 AI 서비스 구축을 담당하는 개발팀 2. LLM의 신뢰성과 정확성 향상에 관심이 높은 AI 엔지니어 및 MLOps 전문가 3. 파이썬 프로그래밍과 기본적인 머신러닝 지식을 바탕으로 LLM 활용 역량을 심화하고자 하는 전문가 4. 데이터 분석 경험을 바탕으로 LLM을 활용한 고급 분석 기법을 학습하고자 하는 실무자 LLM을 공부하거나 AI Agent를 개발하거나 실습하다 보면 할루시네이션을 경험하게 되고, 그 문제의 해결 방법에 대해 고민하게 됩니다. 저도 이 문제 때문에 이 책을 선택하여 읽게 되었는데, 그때가 이 책을 읽는 가장 좋은 시점이 될 것입니다. 할루시네이션에 대한 다양한 내용과 해결 방법, 마지막 프로젝트를 통해 실질적인 해결 방식을 흥미롭게 학습할 수 있습니다. 조금 어려운 내용의 책이기는 합니다. 하지만 LLM과 AI Agent를 공부하면서 마주쳤던 할루시네이션을 해결하는 방법을 이 책을 통해 학습할 수 있어서 좋았습니다.
LLM을 공부한다면 꼭 읽어야 할 책입니다. AI Agent를 공부하고 업무에 활용한다면 더더욱 읽어야 할 책입니다.
ChatGPT가 나온 지 2년이 넘었다. 처음엔 신기해서 이것저것 물어보고, 코드도 짜달라고 하고, 번역도 시켜봤다. 그런데 실무에 적용하려고 하니까 문제가 보이기 시작했다. 분명히 틀린 정보를 자신만만하게 말하거나, 방금 전 대화 내용을 까먹고 모순된 답변을 하거나, 심지어 없는 논문이나 웹사이트를 지어내기도 했다. 이게 바로 '할루시네이션'이다. 개발자 입장에서는 정말 골치 아픈 문제다. 고객한테 보여줄 서비스에 이런 걸 그대로 쓸 순 없으니까. 그래서 LLM을 실제 프로덕션에 넣으려면 뭔가 더 필요하다는 건 알겠는데, 어디서부터 손을 대야 할지 막막했다. 그러다가 이 책을 만났다. 제목부터 정확히 내가 고민하던 문제를 콕 집어준다. '할루시네이션을 줄여주는 프롬프트 엔지니어링'. 솔직히 처음엔 '또 프롬프트 잘 쓰는 법 알려준다는 책인가?' 싶었는데, 읽어보니 완전히 달랐다.
버그가 아니라 특성이라고?
이 책의 관점이 흥미로웠다. 대부분 사람들은 할루시네이션을 '버그'나 '결함'으로 본다. 당연히 없애야 할 것처럼. 그런데 저자는 다르게 접근한다. 할루시네이션은 LLM의 창조적 특성이고, 완전히 없앨 수는 없으며, 대신 '제어'할 수 있다고 말한다. 처음엔 이게 무슨 말인가 싶었는데, 책을 읽다 보니 이해가 됐다. LLM이 창의적인 답변을 만들어내는 것도, 가끔 말도 안 되는 걸 지어내는 것도 사실 같은 메커니즘에서 나온다. 그래서 할루시네이션을 완전히 없애려고 하면 창의성도 같이 죽어버린다. 중요한 건 밸런스를 맞추는 거고, 이걸 어떻게 제어하느냐가 핵심이라는 거다. 이런 관점의 전환이 이 책을 다른 프롬프트 가이드북과 구분 짓는 지점이다.
기초부터 차근차근, 그런데 깊이 있게
1장에서는 프롬프트 엔지니어링이 뭔지, LLM이 어떻게 작동하는지부터 시작한다. Google Colab 세팅하는 법, OpenAI API 키 발급받는 법까지 스크린샷과 함께 설명한다. 이 정도면 진짜 처음 시작하는 사람도 따라할 수 있겠더라. 그런데 여기서 끝이 아니다. 제로샷, 퓨샷, CoT 같은 기본 기법을 설명할 때도 그냥 '이렇게 쓰면 됩니다'가 아니라 '왜 이게 작동하는지'를 설명한다. 이게 생각보다 중요하다. 나중에 내 프로젝트에 적용할 때 원리를 알아야 응용이 가능하니까. 2장부터 본격적으로 할루시네이션 이야기가 나온다. 할루시네이션을 사실적, 논리적, 문맥적으로 나눠서 설명하는데, 이 분류가 실용적이다. 실제로 내가 마주쳤던 문제들이 정확히 이 카테고리에 들어맞았다. '아, 이게 이런 종류의 할루시네이션이었구나' 하고 이해하니까 대응 방법도 명확해졌다. 특히 인상 깊었던 건 셀프 어텐션 메커니즘 설명이다. 솔직히 트랜스포머 구조는 논문 읽어도 이해하기 어려웠는데, 이 책에서는 프롬프트 엔지니어링 관점에서 필요한 만큼만 설명한다. 덕분에 '아, 그래서 프롬프트 앞부분이 중요하구나', '이래서 문맥을 명확히 해야 하는구나' 같은 실용적인 인사이트를 얻었다.
실전 기법들: 이제 진짜 쓸 수 있겠다
자기 일관성(Self-Consistency), CoT, CoVe(Chain-of-Verification) 같은 기법들은 이름만 들어봤는데, 이 책에서 실제 코드와 함께 구현해보니까 확실히 이해됐다. 특히 CoVe는 신기했다. 모델이 답변을 생성한 다음에 스스로 검증 질문을 만들고, 그걸 다시 확인하는 방식인데, 실제로 해보니 오류가 눈에 띄게 줄었다. 3장 가면 난이도가 확 올라간다. 랭체인, ReAct, 리플렉션, 멀티 에이전트까지. 솔직히 이 부분은 한 번 읽어서는 다 이해하기 어려웠다. 그래도 좋았던 건 각 개념을 설명할 때마다 '왜 이게 필요한가'를 먼저 설명한다는 점이다. 예를 들어 멀티 에이전트 시스템 설명할 때, 단일 에이전트의 한계를 먼저 보여주고, 그래서 여러 에이전트가 협력하는 게 필요하다는 흐름으로 가니까 납득이 됐다. 프롬프트 가드레일 부분도 실무적으로 유용했다. ShieldGemma 같은 도구로 출력 내용을 검증하는 방법, 다계층 가드레일 아키텍처 구축하는 법 등. 이런 건 다른 책에서는 잘 안 다루는 내용인데, 실제 서비스 만들 때 꼭 필요한 부분이다.
RAG는 이제 필수인데, 제대로 하기는 어렵다
4장 RAG 부분은 개인적으로 가장 도움이 많이 됐다. RAG가 뭔지는 알고 있었고, 벡터 DB도 써봤는데, 막상 제대로 구현하려니 생각보다 고려할 게 많더라. 이 책은 임베딩, 벡터 저장소, 청크 사이즈, 검색 전략까지 하나하나 짚어준다. 특히 지식 그래프를 RAG와 결합하는 부분은 처음 봤다. Neo4j 같은 그래프 DB를 사용해서 구조화된 지식을 관리하고, Text-to-Cypher로 자연어 질문을 그래프 쿼리로 변환하는 방식. 복잡한 도메인 지식을 다뤄야 하는 프로젝트라면 정말 유용할 것 같다.
다만 이 부분은 난이도가 있다. Neo4j나 Cypher를 전혀 모르는 상태에서 바로 따라하긴 어려울 수 있다. 책에서 기본은 설명해주지만, 좀 더 깊이 활용하려면 별도로 공부가 필요할 듯하다. RAG 체인, 라우터 체인, 자기 교정 RAG 루프 같은 고급 패턴들은 '아, 이렇게까지 할 수 있구나' 싶었다. 단순히 벡터 검색해서 컨텍스트에 넣는 게 전부가 아니라, 상황에 따라 다른 전략을 쓰거나, 결과를 검증하고 재시도하는 등 훨씬 정교한 시스템을 만들 수 있다는 걸 알게 됐다.
실전 프로젝트: 이론을 실제로 만져보기
5장 프로젝트 세 개가 이 책의 하이라이트다. 백과사전 챗봇, 실시간 Q&A 에이전트, 주식 트렌드 분석 에이전트. 앞에서 배운 개념들을 여기서 다 써먹는다. 주식 트렌드 분석 에이전트가 제일 흥미로웠다. 실시간 뉴스 수집하고, 여러 소스 통합하고, 신뢰성 검증하고, 최종 분석 리포트 만드는 전 과정을 구현한다. 단순한 튜토리얼이 아니라 실제 서비스 수준의 고민들(에러 처리, 타임아웃, API 제한, 결과 검증 등)이 다 들어가 있다. 물론 따라하는 게 쉽진 않다. 특히 API 키 여러 개 필요하고, 환경 세팅도 복잡하고. 그래도 끝까지 완성하고 나면 '내가 AI 에이전트를 만들었다'는 성취감이 있다. 그리고 이걸 기반으로 내 아이디어를 추가해볼 수 있겠다는 자신감도 생긴다.
누가 읽으면 좋을까
파이썬 기본은 할 줄 알아야 한다. 변수, 함수, 클래스 정도는 이해하고 있어야 예제 코드를 따라할 수 있다. 머신러닝 기초(학습, 추론, 토큰 같은 개념)도 알면 더 좋다. LLM을 실무에 써보려는 개발자에게 딱이다. ChatGPT 써보고 '이거 우리 서비스에 넣고 싶은데 어떻게 하지?' 고민하는 사람이라면 이 책이 답을 줄 것이다. 이미 LLM 프로젝트를 해본 사람도 배울 게 많다. 나도 간단한 챗봇 정도는 만들어봤는데, RAG 체인이나 멀티 에이전트 같은 고급 패턴은 이 책에서 처음 제대로 배웠다. AI 스타트업이나 AI 팀에서 일하는 사람들에게 특히 추천한다. 팀원들이 이 책을 같이 읽고 스터디하면 공통 언어가 생기고, 시스템 설계할 때 의사소통이 훨씬 수월할 것 같다.
결론: 지금 필요한 책
AI가 빠르게 발전하는 시대에 기술 서적은 금방 낡는다는 말이 있다. 하지만 이 책은 좀 다르다. 특정 API 사용법이나 라이브러리 버전에 얽매이지 않고, 근본적인 원리와 패턴을 가르쳐주기 때문이다. 할루시네이션을 제어하는 방법, 외부 지식을 통합하는 전략, 에이전트 설계 패턴, 평가와 모니터링의 중요성. 이런 개념들은 다음 모델이 나와도, 다음 세대 모델이 나와도 여전히 유효할 것이다. 책을 다 읽고 나니 든 생각은, '아, 이 책을 1년 전에 만났더라면' 이었다. 그동안 시행착오 겪으면서 배운 것들이 이 책에 체계적으로 정리되어 있다. 동시에, 내가 미처 생각하지 못했던 접근법들도 많이 배웠다.완벽한 책은 아니다. 좀 더 깊게 다뤘으면 하는 부분도 있고, 실무적인 팁이 더 있었으면 하는 부분도 있다. 하지만 현재 한국에서 LLM 실무 개발을 다룬 책 중에서는 단연 최고다. LLM을 실무에 적용하고 싶은데 어디서부터 시작해야 할지 막막했던 사람들에게, 이 책은 명확한 로드맵을 제시한다. 단순히 AI를 '쓰는' 것이 아니라, 신뢰할 수 있는 AI 시스템을 '만드는' 방법을 알려준다. 내 책장에는 이미 AI 관련 책이 여러 권 있지만, 이 책은 그중에서도 계속 꺼내보게 될 것 같다. 실전 프로젝트 시작할 때마다 참고하게 될 레퍼런스 북이 될 것 같다는 말이다.
이 책은 LLM의 할루시네이션을 단순한 버그가 아닌 제어 가능한 창조적 특성으로 보는 새로운 관점을 제시합니다. 할루시네이션을 줄이기 위한 구체적인 프롬프트 엔지니어링 기법부터 RAG, 랭체인, 에이전트 설계 전략까지 코드 실습과 함께 깊이 있게 다룹니다. 그라운딩과 지식 그래프를 활용하여 LLM의 답변을 사실에 기반하도록 제어하는 프로덕션 수준의 기술도 배울 수 있습니다. OpenAI, Gemini 등 최신 도구를 활용한 실전 프로젝트를 통해 독자가 직접 신뢰성 있는 AI 애플리케이션을 구축하도록 돕습니다. AI를 단순히 사용하는 것을 넘어, 실제 서비스에 안정적으로 적용하고 싶은 개발자에게 필수적인 지침서입니다.
AI는 이제 실생활이나 비즈니스에 없어서는 안 될 존재가 되었다. 그것도 무료로, 누구나 쉽게 쓸 수 있는 도구로 자리 잡았다.
하지만 이상하게도, 사람마다 활용 능력의 격차는 점점 더 벌어지고 있다. 같은 문제를 두고 AI에게 묻더라도 누군가는 사실과 다른 답을 받고, 누군가는 구글링보다 더 느리게 답을 찾기도 한다.
혹은 그 반대의 경우도 있다. 요즘 기업들이 앞다투어 도입하는 AI 챗봇 상담을 보면, 도무지 내 의도를 이해하지 못한다는 인상을 받는다. 예를 들어 “자동차 보험을 일시납하면서 무이자 할부가 가능한 카드가 있을까?” 하고 물으면, 챗봇은 자동차 보험 분납 방법을 알려주거나, 갑자기 엉뚱한 신규 카드를 추천하기도 한다.
이 모든 것은 결국 프롬프트 엔지니어링의 문제다. 즉, “AI에게 어떻게 말해야 제대로 알아듣게 할 것인가”의 영역이다.
엔지니어가 아닌 나 역시, 항상 할루시네이션(사실과 다른 답변), 답변의 검증 문제, 지나치게 긍정적인 ‘AI의 아부성 멘트’에 골머리를 앓고 있다. 오늘 소개할 책은 바로 이런 문제들을 체계적으로 다루는 안내서다.
국내 환경에 맞는 프롬프트 엔지니어링
작년부터 프롬프트 엔지니어링 관련 서적을 여럿 읽었지만, 대부분 해외 번역서였다. 주로 “제로샷(Zero-shot)보다 퓨샷(Few-shot)을 써라”, “역할(Role)을 명시해라”, “단계별로 질문하라” 같은 기본 원칙 중심이었다.
하지만 그런 책들은 번역체의 어색함이나 영어 중심의 예시 때문에 국내 환경에서는 바로 적용하기 어려웠다.
이 책은 국내 저자가 현업 경험을 바탕으로 쓴 책이라는 점이 가장 돋보인다. 번역투 없이 자연스러운 문체로 쓰였고, 프롬프트를 실제 비즈니스 상황(예: 고객 상담, 보고서 작성, 데이터 분석 등)에 맞춰 설명한다. 덕분에 읽으면서 ‘현장에서 바로 써먹을 수 있겠다’는 느낌을 받았다.
답변의 일관성을 유지하는 방법
기본적인 퓨샷 프롬프팅 외에도, 이 책은 CoT(Chain of Thought) 와 CoVe(Chain of Verification) 기법을 통해 AI의 사고 과정을 단계별로 이끌어내는 방식을 다룬다.
CoT는 모델이 스스로 “생각의 과정을 말로 풀어내도록” 유도하는 방식이고, CoVe는 그 과정에서 나온 답을 자기 검증(Self-Verification) 으로 다시 점검하게 만드는 기법이다. 결국 이 두 가지를 함께 사용하면, AI의 답변이 단순히 ‘그럴듯한 말’이 아니라 ‘검증 가능한 논리 구조’를 따르게 된다.
랭체인(LangChain)부터 리플렉션, 멀티에이전트까지
심화 파트에서는 단순한 프롬프트 수준을 넘어, LLM 프레임워크와 구조적 접근법을 다룬다. 예를 들어 LangChain을 이용해 프롬프트 체인을 설계하는 법, ReAct 기법으로 “생각→행동→검증”의 루프를 만드는 법, 그리고 Reflection(자기 성찰)을 통해 답변 품질을 높이는 방법까지 다룬다.
또한 Prompt Guardrail(출력 안전 장치)과 Multi-Agent System(복수의 AI가 협력하는 시스템) 등, 최신 AI 시스템 설계 개념까지 한 권에 묶여 있다.
특히 ReAct·Reflection·Guardrail 같은 내용은 최근 연구 논문이나 해외 컨퍼런스에서 자주 언급되지만, 이 책처럼 실제 예제 중심으로 설명한 경우는 드물다.
그래서 이 파트가 개인적으로 가장 흥미로웠다.
마치며 : 프롬프트 엔지니어링의 위상
이 책은 단순히 “프롬프트 잘 쓰는 법”을 넘어, AI 시스템을 어떻게 설계하고 운영할 것인가까지 시야를 확장시켜준다.
실제 비즈니스 예시가 많다 보니 읽는 내내 몰입이 잘 됐고, “AI가 실제 서비스로 들어오는 시대”에 프롬프트 엔지니어의 역할이 얼마나 커질지를 실감하게 된다.
앞으로는 개발자뿐 아니라 기획자, 마케터, 분석가 모두가 AI에게 “어떻게 말할 것인가”를 배워야 하는 시대가 올 것이라 생각한다.
2022년 11월 30일 ChatGPT가 출시된 이후 프롬프트 엔지니어링은 AI 개발자를 비롯하여 AI를 사용하는 모든 사람들에게 가장 큰 관심사가 되었다. 프롬프트를 생성하기 위한 다양한 팁, 논문, 강의, 도서가 쏟아지고 있다. 최근 컨텍스트 엔지니어링이란 용어가 부상하고 있는데, 그 핵심에는 여전히 프롬프트 엔지니어링이 자리 잡고 있다. 이 책은 할루시네이션을 넘어 신뢰할 수 있는 에이전트 시스템을 만들기 위한 프롬프트 엔지니어링 최신 기법을 다루고 있으며, 책에서 구현하는 파이프라인과 실습 코드는 프롬프트 엔지니어링에 대한 더 많은 인사이트를 제공할 것이다.
[선수 지식]
- 트랜스포머 기반의 생성형 AI, LLM 기초 지식
- RAG, AI 애플리케이션 개념
- Python, 랭체인, API, Google Colab
선수 지식이 없어도 책을 읽는 데는 지장이 없지만, 위의 개념을 알고 있으면 저자의 의도를 명확히 이해할 수 있어서 더욱 재미있게 읽을 수 있을 것이다.
[추천 독자]
- AI 서비스를 운영하고 있거나 구축하고 싶은 분
- RAG, AI 에이전트를 기획하는 담당자 및 개발자
- 고급 프롬프트 엔지니어링이 필요한 분
- 그 외 AI로 작업하고자 하는 모든 분
할루시네이션을 줄이는 분야와 프롬프트 엔지니어링 분야는 AI와 가장 밀접하기 때문에 사용자, 개발자 모두에게 유용할 것이다.
- 할루시네이션 기본 개념과 할루시네이션을 예방할 수 있는 다양한 기법을 비유를 들어 쉽게 이해할 수 있도록 개념적으로 설명
- RAG, 지식 그래프, ReAct, 리플렉션, 가드레일, 에이전트, 평가까지 신뢰할 수 있는 AI 서비스 파이프라인 설명
- 실무에 적용할 수 있는 인사이트를 제공하는 에이전트 기반의 실전 프로젝트 예시 코드와 설명
[책의 구성]
이 책은 전체 5개 장과 부록으로 구성되어 있다. (475페이지 분량)
Chapter 01 "프롬프트 엔지니어링 개요"에서는 프롬프트 엔지니어링의 개념과 LLM의 작동 원리를 설명하고 구글 코랩과 OpenAI, Gemini API를 생성하는 방법을 캡처 화면으로 알려주고 간단한 실습을 진행한다.
Chapter 02 "할루시네이션 예방 기법"에서는 할루시네이션의 정의와 유형을 설명하고 예방 기법으로 자기 일관성, CoT, 지식 생성, 자기 검증, CoVe, 평가 및 진단 도구를 개념적으로 설명한 후 실습한다.
Chapter 03 "심화: 프롬프트 응용"에서는 랭체인을 활용하여 ReAct, 리플렉션, 가드레일, 멀티 에이전트 시스템, 도메인 특화 프롬프트, 랭스미스를 이용한 RAG 시스템 평가 방법을 예제와 함께 설명한다.
Chapter 04 "그라운딩과 지식 통합"에서는 랭그래프의 체인과 RAG를 설명하고, Graph RAG, 에이전트의 개념과 한계점을 실습을 통해 살펴본다.
Chapter 05 "실전 프로젝트: 에이전트 만들기"에서는 이전까지 배운 개념을 적용하여 RAG, ReAct, 자율 에이전트를 구현하고 개선점을 함께 고찰한다.
"부록"에서는최신 프롬프팅 기법 소개와 랭체인 이외의 프레임워크를 소개한다. 마지막으로 책임감 있는 AI 구축을 위한 방안을 설명한다.
[인용]
할루시네이션을 버그로 인식하지 않고 LLM의 특징으로 이해할 때 비로소 할루시네이션을 줄이거나 활용할 수 있을 것이다.
할루시네이션은 단순히 고쳐야 할 버그가 아니라 LLM의 본질적인 작동 방식에서 비롯된 창조적 특성으로 이해해야 한다. <중략>
이는 모델의 설계와 작동 원리를 깊이 이해할 때 비로소 적절히 다룰 수 있다. 이와 같은 모델의 특성은 단순히 결함으로 간주하기보다는 이를 제어하고 활용하는 방향으로 접근해야 함을 시사한다.
지은이의 말, p10
[소감]
이전의 프롬프트 엔지니어링 관련 책이 패턴이나 방법론, 템플릿 위주였다면, 이 책은 고급 프롬프트 엔지니어링 기법이 탄생하게 된 배경과 개념을 쉬운 비유를 들어 설명한다. 소개한 기법들을 외우지 않아도 자연스럽게 체화되는 기분이 들었다. 다른 기술서에 비해 글이 많음에도 불구하고 힘들이지 않고 재미있게 읽을 수 있었으며, 고급 프롬프팅 개념을 최신 RAG 방법과 툴 콜링, 멀티 에이전트 예제에 적용하여 설명하기 때문에 실무에 바로 적용할 수 있고, 기존보다 성능이 개선되는 것을 즉시 확인할 수 있을 것이다. 적용하지 않더라도 분명 개선될 것임을 직감할 수 있다. 샘플 코드는 GitHub에서 확인할 수 있다.
[추천]
"프롬프트가 어렵다." 혹은 "LLM이 내가 원하는 대로 동작하지 않는다."라고 생각하거나 느끼는 분에게 이 책을 추천한다. 프롬프트 엔지니어링은 기계적으로 학습해서 되는 것이 아니라 LLM의 특성으로 이해할 때 주어진 문제를 해결하고 인공지능의 잠재력을 최대한 발휘할 수 있기 때문이다.
할루시네이션은 입력된 데이터와 무관하게 사실이 아닌 출력을 생성하는 현상이다. 쉽게 말해 질문에 틀리거나 엉뚱한 답변을 하는 것이다. 대한민국의 수도는 어디? 물었는데, 워싱턴이에요. 또는 오늘 주식이 얼마입니다. 말하는 것과 같다.
사실 이런 경험은 챗GPT, 제미나이 같은 LLM 인공지능 서비스를 써본 사람이라면 누구나 한 번쯤은 경험해 봤을 것이다. 그나마 어느 정도 아는 쪽이면 의심이라도 할 수 있지만, 전혀 모르는 분야 경우, AI가 너무나 뻔뻔하게 거짓말을 잘하기 때문에 그냥 믿고 확인 안 하면, 곤란한 상황에 빠질 수 있다. 그래서 이런 할루시네이션을 줄이는 다양한 방법들이 나왔고 이것이 바로 프롬프트 엔지니어링인 것이다.
한때 프롬프트 엔지니어 인기가 상종가를 친 적이 있었다. 나도 그때 프롬프트 엔지니어링이 뭔가 궁금해서 열심히 찾아봤지만, 제대로 된 설명이나 책은 드물었다. 얼마 지나 관련 책들이 나왔는데, 도움 되는 면도 있었지만, 대부분 "이렇게 하면 된다"라는 예시만 나열하는 수준이라 실망스러웠다. 문제마다 따로 접근해야 하는 비효율적 방식은 마치 밑 빠진 독에 물 붓기 같았고, 이런 것에 '엔지니어링'이라는 이름이 붙는다는 게 이해되지 않았다.
그런데 이번에 한성민 저자의 '할루시네이션을 줄여주는 프롬프트 엔지니어링'의 체계화된 이론과 실습 학습을 통해 왜 엔지니어링이 되는지 확실히 알 수 있었다.
'할루시네이션을 줄여주는 프롬프트 엔지니어링'에서는 막연히 '이렇게 프롬프트를 작성하면 더 좋은 결과가 나와요'가 아니라, 프롬프트 기법에 따른 처리 과정과 할루시네이션 발생 차이, 왜 그렇게 되는지 명확히 설명하고 있다. 다른 책에서 설명하지 않은 중간 과정이 이 책에는 담겨 있는 것이다. 내부 메커니즘을 이해하게 되니, 응용의 폭도 넓어지게 된다.
그리고 이 책에서는 일반 프롬프트뿐만 아니라, 랭체인, RAG, 에이전트도 다룬다. 이를 활용하여 챗봇이나 주식 분석, 문서 요약, 법률 자문 등의 AI 에이전트 앱을 개발할 수 있다. 특히 랭체인 경우, 전에 본 한빛의 책에서 쉽고 빠르게 응용 앱을 만드는 것을 배울 수 있었는데, 이번 책에서는 그때 미처 생각지 못한 할루시네이션이라는 측면을 다루고 있어서, 보다 신뢰성 높은 AI 에이전트 앱을 만드는데 많은 도움을 준다.
'할루시네이션을 줄여주는 프롬프트 엔지니어링'의 책 구성을 살펴보면, 473쪽 분량에 5개의 챕터와 부록으로 되어 있다. 프롬프트 엔지니어링 개요, 할루시네이션 예방 기법, 심화: 프롬프트 응용, 그라운딩과 지식 통합, 실전 프로젝트 : 에이전트 만들기 순이다. 프롬프트 개선 사례도 나오지만 그보다는 내부 원리나 설계 쪽 내용 위주다.
이 책을 읽고 있으면, 저자가 독자에게 가급적 많은 것을 전달하고 싶어 안달이 난 거 같다는 느낌이 든다. 다루는 주제도 많고, 곳곳에 주석이나 NOTE 코너를 통해 추가 정보도 많이 담았다. 설명도 깔끔하게 이해할 수 있게 잘 되어 있다. 설명에 사용된 예들이 쏙쏙 머리에 박힌다. 용어나 중요 내용은 주황색으로 강조해 놔서 한눈에 쏙쏙 들어온다.
보통 첫 챕터는 워밍업 정도로 가볍게 풀어 나가는데, 여기서는 기본 개념 잡아주고, 바로 실습 준비로 들어간다. Google Colaboratory, OpenAI API, Gemini API를 설치한다. Colab에서는 파이썬을 이용해서 코딩을 하는데, 난이도가 높은 코딩은 아니므로 파이썬 기본 문법 정도 알고 있으면 충분하다. 코딩과 테스트를 통해 할루시네이션 상황을 구현해 보고, 비교와 평가도 해보며, 프롬프트 엔지니어링 기법의 장단점을 알아본다.
'할루시네이션을 줄여주는 프롬프트 엔지니어링'의 내용은 꼬리에 꼬리를 무는 형태로 점진적으로 지식을 쌓는 형태다. 챕터 2에 나오는 홀루시네이션의 세 가지 유형, 사실적, 논리적, 문맥적 할루시네이션을 제대로 숙지하면, 뒤에 나오는 CoT, 지식 생성 프롬프팅, 자기검증, CoVe 등 각종 프롬프트 엔지니어링 기법들이 지향하는 개선 방향을 제대로 알 수 있다. 재미있었던 것은 나름 내가 본능적으로 할루시네이션을 줄이는 프롬프트를 만들고 있었다는 것을 알 수 있었다.
그라운딩, RAG, 지식 그래프, LLM 할루시네이션 평가 방법과 도구에 관련된 것도 배울 수 있어 좋았다. 이 책 덕분에 새로운 것도 많이 배우고, 흩어졌던 지식들을 정확한 용어와 함께 체계적으로 정리할 수 있었다.
책에서 말하듯, 할루시네이션은 버그가 아니라 LLM의 가장 큰 특징이다. 그래서 이를 줄여 나가는 과정은 마치 거짓말을 하지 않도록 아이를 차근차근 가르치는 일처럼 느껴졌다. 그리고 겉보기엔 모든 것을 다 아는 듯한 척척박사 LLM의 내부적인 한계에 어떤 것들이 있는지 명확히 이해할 수 있었다.
결과적으로 '할루시네이션을 줄여주는 프롬프트 엔지니어링'은 할루시네이션과 프롬프트 엔지니어링이란 전문적인 주제를 기초부터 응용까지 차근차근 짚어주는 훌륭한 교과서였다.
AI라는 말이 일상속에서 익숙한 용어가 된지도 어느덧 수년이 지났다. 몇몇 얼리어댑터들의 전유물이었던 AI는 이제 우리의 생활 곳곳에 파고들고 있다. 하지만 AI속에는 아직 사람들의 기대와 상상과 달리 명확한 한계도 존재한다. 이 책은 AI의 오류처럼 보이는 ‘할루시네이션’을 버그가 아닌 ‘창조적 특성’으로 보고, 이를 제어 가능한 기술로 다루는 최초의 실용 프롬프트 가이드북이다.
책은 AI가 만들어내는 ‘그럴듯하지만 틀린 답’을 어떻게 제어하고, 더 정확하고 신뢰할 수 있는 결과를 뽑아낼 수 있는지를 단계별로 안내한다. 단순히 “이렇게 입력하세요” 수준이 아니라, AI와의 대화를 설계하는 ‘소통 구조’를 다루기 때문에 업무 효율을 극적으로 높이고, AI를 진짜 ‘보조 인력’으로 만드는 법을 알려준다.
/책의 활용요소 1. 직장인: AI 리터러시 교본 고서나 기획서 초안을 AI로 작성하다 보면 근거 없는 문장들이 섞여 곤란했던 경험이 있을 것이다. 이 책은 그런 불확실한 결과를 줄이는 프롬프트 설계 원리를 알려줘, 신뢰도 높은 자료를 빠르게 생성할 수 있게 한다. AI가 쓸데없는 상상 대신 근거 중심으로 사고하도록 유도하는 것이다. 덕분에 수정 시간을 단축하고, AI를 진짜 ‘업무 파트너’로 쓸 수 있게 된다.
2. 디자이너: 크리에이티브 엔진 매뉴얼 미드저니나 스테이블 디퓨전 같은 이미지 생성 툴을 쓸 때, 종종 ‘괴상한 이미지’가 나오는 이유는 프롬프트의 구조 때문이다. 이 책은 디자인 의도를 정확히 구현하기 위해 어떤 언어 구조로 명령을 설계해야 하는지 알려준다. 이를 통해 AI를 감각적으로 활용하며, ‘의도한 결과’를 뽑아내는 창작자형 디자이너로 성장할 수 있다.
3. 기획자: 정보 필터링 도구 트렌드 분석이나 시장조사를 AI에 맡길 때 가장 큰 문제는 ‘그럴듯한데 틀린 데이터’다. 저자는 프롬프트 엔지니어링을 ‘정보 구조화 기술’로 설명하며, AI가 기획자의 의도를 정확히 해석하고 근거 있는 인사이트를 제시하도록 돕는다. 이 과정을 배우면 AI는 더 이상 무책임한 조언자가 아니라, 아이디어의 동반자가 된다.
4. 자영업자: AI 직원 교육서 메뉴 소개나 마케팅 문구를 AI에게 맡겼다가 이상한 결과가 나온 적이 있다면, 이 책을 통해 프롬프트를 정밀하게 설계해보자. 정확하고 매력적인 문장, 고객 친화적 답변을 자동으로 생성하게 할 수 있다. 즉, AI를 믿고 쓸 수 있는 단계로 끌어올려주는 책이다.
/이 책의 특장점 · 관점의 전환: 할루시네이션을 단순 오류가 아닌 제어 가능한 속성으로 본다. · 실전 중심 구성: 프롬프트 엔지니어링 기법, RAG, 에이전트 설계까지 실무 예시와 함께 다룬다. · 소통 설계: AI와의 대화를 인간 중심으로 설계하도록 돕는다.
/추천 대상 · AI가 엉뚱한 답을 자주 내뱉어 답답했던 모든 사용자 · 업무 자동화를 시도하는 직장인, 디자이너, 기획자, 자영업자 · AI 서비스 기획자 및 개발자 · AI의 창의성과 정확도를 동시에 잡고 싶은 사람 -개발자 외의 직군에 있는 사람이 보기 위해서는 조금 사전지식이 필요하며 이를 위한 내용을 책 초반에 선수지식으로 안내하고 있다.
“할루시네이션은 버그가 아니라 LLM의 자연스러운 창조적 특성이이며 정답을 맞히는 게 아니라, 생각의 과정을 보여주는 것.”
이 책은 단순한 기술서가 아니라, AI 시대의 새로운 사고법을 제시하는 매뉴얼이다. AI와 함께 일하는 모든 사람에게 “할루시네이션은 버그가 아니라 가능성이다”라는 통찰을 선물한다.
ChatGPT 같은 LLM 전성시대가 되면서 AI 엔지니어에게 꼭 필요한 역량 중 하나는 프롬프트를 통해 원하는 결과를 이끌어내는 프롬프트 엔지니어링이다. 과거에 RAG 챗봇을 구축하는 프로젝트에서 프롬프트 엔지니어링을 공부하고 적용했던 경험이 있었지만 그 경험을 한 시점은 LLM이 등장한 지 얼마 안 된 시점이었다. 그동안 새로운 개념과 방법론이 많이 등장했을 것이라고 생각했다. 개발에 집중하다 보니 프롬프트 엔지니어링의 필요성을 인지하면서도 본격적으로 학습하지 못했다. 조금 늦었지만 지금이라도 프롬프트 엔지니어링 전반을 깊이 이해하고 싶어져서 이 책을 선택하게 되었다.
? 목차
책의 목차는 아래와 같다.
[CHAPTER 01 프롬프트 엔지니어링 개요]
1.1 프롬프트 엔지니어링이랑
1.2 대규모 언어 모델
1.3 기본 환경 설정
1.4 LLM 실습
1.5 오늘날의 프롬프팅 기법들
[CHAPTER 02 할루시네이션 예방 기법]
2.1 할루시네이션의 정의와 유형
2.2 할루시네이션 발생 유형
2.3 할루시네이션을 예방하는 기술
2.4 프롬프트 엔지니어링 기법
2.5 자기 일관성
2.6 CoT 프롬프팅
2.7 지식 생성 프롬프팅
2.8 자기 검증
2.9 CoVe 프롬프팅
2.10 평가 및 진단 도구
[CHAPTER 03 심화: 프롬프트 응용]
3.1 프롬프트 체인
3.2 랭체인 프레임워크
3.3 ReAct
3.4 리플렉션
3.5 프롬프트 가드레일
3.6 멀티 에이전트 시스템
3.7 도메인 특화 프롬프트
3.8 LLM 시스템 평가와 관측 가능성
[CHAPTER 04 그라운딩과 지식 통합]
4.1 그라운딩 개념과 필요성
4.2 검색 증강 생성
4.3 데이터 통합과 지식 그래프
4.4 그라운딩 기법을 고려한 체인
4.5 에이전트 디자인을 통한 지식 통합
[CHAPTER 05 실전 프로젝트: 에이전트 만들기]
5.1 첫 번째 프로젝트: 나만의 백과사전 챗봇 5.2 두 번째 프로젝트: 실시간 질의응답 에이전트 5.3 세 번째 프로젝트: 주식 트렌드 분석 에이전트 5.4 프로젝트를 마무리하며
[부록: 고급 기법과 도구 소개] A 심화 프롬프팅 기법 B 주요 도구 및 라이브러리 C 책임감 있는 AI 구축
?? 책의 특징 및 차별점
[프롬프트 엔지니어링의 모든 것을 담은 종합 레퍼런스] 이 책은 프롬프트 엔지니어링과 관련된 원리, 기법, 사례를 모두 다룬 ‘레퍼런스 북’에 가깝다. 기본적인 프롬프트 설계 원칙부터 Chain-of-thought, Few-shot, Self-consistency 같은 심화 기법까지 체계적으로 다루고 있으며 각 기법이 실제로 어떻게 활용될 수 있는지 구체적인 예시를 곁들인다. 내가 프롬프트 엔지니어링에 대해 알고 있던 내용은 0.01%도 안된다는 것을 이 책을 통해 깨달았고 그래서 여러 번 읽으면서 내 것으로 만들고 싶어졌다. 이 책은 단편적인 트릭 모음집이 아니라 프롬프트 엔지니어링의 전반을 아우르는 구조화된 안내서라는 점에서 기존 도서들과 뚜렷이 구분된다.
[모든 독자를 위한 실무형 설계 가이드] 또 하나의 특징은 독자층을 ‘전문가’로 한정하지 않았다는 것이다. AI 엔지니어뿐만 아니라 기획자, 디자이너, 심지어 비개발자까지도 접근할 수 있도록 실무 사례 중심의 설명으로 구성되어 있다. 이 과정에서 저자가 직접 겪은 실패와 개선 과정을 함께 보여주면서 누구나 시행착오를 줄이고 더 빠르게 성과를 얻을 수 있도록 돕는다. 누구나 바로 현장에 적용할 수 있는 실행 가이드라는 점에서 큰 가치를 가지고 있는 책이다.
? 추천 독자
1. ChatGPT, Gemini 등 생성형 AI를 사용할 때 할루시네이션을 줄이고 싶은 사람
2. 프롬프트 엔지니어링 전반을 체계적으로 배우고 싶은 사람
3. 서비스에 들어가는 AI 기능의 안정성을 위해 할루시네이션을 최소화해야 하는 AI 엔지니어
chatgpt 외에도 생성형AI가 많아지며 비즈니스 환경, 학문 분야에 도입하는 경우가 많아지고 있습니다. 그러나 생성형AI의 할루시네이션 문제는 여전히 과제로 남아있습니다. 전문 연구가는 아니지만 비즈니스 환경에 생성형AI 도입을 검토하고 있는 분들, 혹은 프롬프트 엔지니어링에 대해 알아보고 싶은 분들께 추천합니다.
이 책에는 목차 앞에 [선수 지식과 대상 독자]라는 섹션이 있는데요, 선수 지식은 초중급 수준의 파이썬 코딩 능력과 기본적인 머신러닝에 대한 이해입니다. 실습은 Colab 환경을 기반으로 진행됩니다. 대상 독자는 총 4개 분류로 나뉩니다.
첫째. 비즈니스 환경에서 신뢰할 수 있는 AI 서비스 구축을 담당하는 개발팀
두번째. LLM의 신뢰성과 정확성 향상에 관심이 높은 AI 엔지니어 및 MLOps 전문가
세번째. 파이썬 프로그래밍과 기본적인 머신러닝 지식을 바탕으로 LLM 활용 역량을 심화하고자 하는 전문가
네번째. 데이터 분석 경험을 바탕으로 LLM을 활용한 고급 분석 기법을 학습하고자 하는 실무자
책에서는 선수지식을 어느 정도 갖춘 독자를 대상으로 실습을 진행하고 있는데요, 파이썬이나 머신러닝에 대해 알지 못하더라도 할루시네이션을 줄이는 방법을 알아보고 싶다, 하시는 분들은 챕터 1과 2라도 읽어보시길 권하고 싶습니다. 챕터 1인 개요에서는 프롬프트 엔지니어링의 기본이 되는 아이디어들을 제시하고 있습니다. 챕터 2인 할루시네이션 예방 기법에서는 프롬프트 엔지니어링 기법 외에도 할루시네이션의 종류, 프롬프트 엔지니어링 외의 할루시네이션 예방법에 대해서 알아볼 수 있습니다.
저는 프롬프트 엔지니어링에 대해 overview 강의도 들어보고 이런저런 문서를 찾아보기도 했지만, 개괄적인 수준이라 좀 아쉬웠던 적이 있습니다. 반대로 너무 깊게 들어가는 강의같은 경우는 따라가기가 쉽지 않아서 시도할 엄두가 나지 않았구요.
반면 책에서는 적절히 실습과 이론을 분배해서 보여주고 있고, 발췌해서 읽는 것도 가능해서 좋습니다. 프롬프트 엔지니어링에 대해 발목까지 담궈보고 싶으신 분들에게 추천합니다!
이론서에 그치지 않고, 실제 발생하는 할루시네이션 문제상황을 코드로 따라하며 직접 개선 효과를 체험할 수 있다는 점이 이 책의 가장 큰 강점이다 특히 CoT, Self-Consistency, Reflection, Guardrails, RAG 등 단순 프롬프트가 아닌 “신뢰성 엔지니어링” 전 과정을 구체적으로 다루고 있어, 단 한 권으로 LLM 기반 서비스의 품질을 한 차원 높이고자 하는 개발자에게 매우 유용하다
요즘 대규모 언어 모델(LLM)은 일과 생활의 많은 부분을 바꾸고 있지만, 어떻게 질문하느냐에 따라 전혀 다른 답을 내놓는 존재이기도 하다. 그래서 프롬프트 엔지니어링이 중요하다. 이 책이 말하는 프롬프트 엔지니어링은 단순한 ‘명령어 작성법’이 아니라, 모델이 가진 잠재력을 최대한 끌어내고 그럴듯하지만 틀린 답을 줄이는 소통 설계 기술이다.
특히 할루시네이션을 줄이려면 프롬프트만으로는 부족하고, RAG(검색 증강 생성)와 가드레일, 사후 검증을 함께 갖춘 세트 전략이 필요하다고 강조한다.
책은 먼저 할루시네이션을 사실적·논리적·문맥적 세 가지로 나누어 설명한다. 사실적 할루시네이션은 수치나 날짜 같은 사실을 틀리게 제시하는 경우, 논리적 할루시네이션은 추론 과정이 비약하거나 모순되는 경우, 문맥적 할루시네이션은 질문과 무관한 답을 하는 경우다. 결국 LLM의 답변은 항상 검증되어야 하며, 신뢰할 수 있는 데이터와 정교한 프롬프트 설계가 필수라는 메시지를 분명히 한다.
이어 LLM이 실제로 구축되는 과정을 트랜스포머 모델, 사전 학습, 지침 미세조정(Instruction FT), 정렬(Aligned)이라는 단계로 풀어준다. 우리가 사용하는 상용 모델은 이미 일정 수준의 정렬이 되어 있지만, 서비스 품질을 높이려면 여기에 프롬프트 설계와 검증 절차가 덧붙어야 한다고 설명한다.
성능을 끌어올리는 프롬프팅 기법으로는 제로샷과 푸샷, CoT(Chain-of-Thought), RAG의 네 가지를 핵심으로 다룬다. 제로샷은 예시 없이 지시만으로 빠르게 적용하는 방식이지만 복잡한 작업에는 흔들릴 수 있다. 반대로 푸샷은 몇 개의 좋은 예시로 기준을 학습시키는 방식으로, 관련성과 명확성, 다양성과 대표성, 형식 일관성이라는 세 가지 원칙을 지키면 성능을 안정적으로 끌어올릴 수 있다. 실제로 세 개의 예시만으로도 정확도가 크게 향상되는 사례가 소개된다.
CoT는 정답만 내기보다 풀이 과정을 단계별로 생성하게 하여 복잡한 산술·코딩·논리 추론에서의 오류를 줄인다.
RAG는 검색→증강→생성의 파이프라인으로 최신성과 근거성을 확보해 할루시네이션을 효과적으로 억제한다. 책은 o1-pro 같은 추론형 모델과 Perplexity 같은 검색형 서비스의 차이를 예로 들어, 목적에 따라 체감 성능이 달라진다는 점도 알기 쉽게 짚어준다.
프롬프트 엔지니어링 자체가 할루시네이션 예방 기술이라는 주장도 설득력 있게 전개된다. 트랜스포머의 셀프 어텐션 구조와 정렬 과정을 전제로, 역할·목표·출력 형식·제약을 명시한 프롬프트가 모델의 탐색 범위를 건강하게 제한하고 흔들림을 줄인다는 것을 다양한 예시로 보여준다. 추가로 데이터 품질 개선, 모델 아키텍처 개선, 사후 검증 같은 보완책을 비교해주는데, 현실적으로는 사후 검증이 가장 적용하기 쉽고 RAG와의 궁합이 특히 좋다고 정리한다. “근거 없으면 답하지 말라”, “불확실하면 확인 필요로 표시하라” 같은 규칙이 실제 서비스에서 얼마나 큰 효과를 내는지도 사례로 확인할 수 있다.
이 책이 실전서인 이유는 RAG·인덱싱·그라운딩·평가를 코드와 아키텍처 흐름으로 끝까지 보여주기 때문이다. LangChain을 이용해 디렉터리를 로드하고, 적절한 크기의 청크로 문서를 분할해 벡터 저장소에 넣는 인덱싱 파이프라인(Load→Split→Store)을 그대로 따라 해볼 수 있다.
검색 단계에서는 질의 변환으로 사용자의 질문을 검색 친화적으로 바꾸고, 임베딩과 유사도 검색, 문서 분할로 가장 관련 문맥을 골라 증강 단계에서 답변과 함께 사용한다.
무엇보다 “제공된 문맥에 근거가 없으면 답하지 말 것” 같은 그라운딩 프롬프트 규칙을 실제로 어떻게 쓰는지까지 보여줘 신뢰성을 확보하는 길을 구체화한다.
에이전트 파트에서는 도구 호출, 메모리, 계획을 엮어 스스로 태스크를 수행하는 구조를 설명하며, 보고서 생성이나 로그 분석, FAQ 자동화 같은 업무에 어떻게 적용되는지도 감을 잡게 해준다. 성능 평가는 TruthfulQA, HaluEval, FEVER, FACTSCORE 등 진실성·근거성·사실성을 보는 벤치마크로 측정해야 함을 강조한다. 프롬프트 제약 조건과 온도(temperature)가 답변 품질에 미치는 영향도 예시로 보여주고, “파인애플의 모음 개수” 같은 간단한 문제에서도 CoT를 적용하면 오답이 정답으로 바뀌는 과정을 시각적으로 이해시킨다.
책의 장점은 다섯 가지로 요약된다.
첫째, OpenAI·Gemini·LangChain 등 최신 도구와 프로젝트 예제가 촘촘해 실무에 바로 투입 가능한 신뢰성 높은 AI 서비스를 만드는 방법을 배울 수 있다.
둘째, 프롬프트 엔지니어링, 데이터 품질·모델 아키텍처 개선, 사후 검증 등 할루시네이션 예방 전술을 실습 중심으로 익히게 해준다.
셋째, RAG·지식 그래프·멀티에이전트 같은 최신 아키텍처와 도구를 프로젝트 수준으로 구현하며 경험할 수 있다.
넷째, 백과사전 챗봇, 실시간 질의응답 에이전트, 주식 트렌드 분석 등 실전형 예제를 통해 단순한 모델 호출을 넘어 시스템 설계 역량을 키워준다.
다섯째, 파이썬과 머신러닝 지식을 바탕으로 고급 프롬프팅과 평가·진단, 책임 있는 AI 설계까지 한 권으로 체계적으로 배울 수 있어 초보자부터 전문가까지 폭넓게 도움이 된다.
이 책을 특히 추천하고 싶은 독자는 정확성과 신뢰성을 높여야 하는 개발자와 엔지니어, 데이터 품질 관리와 RAG·지식 그래프·평가 체계를 운영 관점에서 적용해야 하는 MLOps·AI 서비스 담당자, 근거 제시가 중요한 리서치·리포팅 자동화를 고민하는 도메인 전문가와 콘텐츠 팀, 그리고 고비용 파인튜닝 대신 API+RAG+가드레일 조합으로 가성비 좋은 솔루션을 빠르게 만들고 싶은 스타트업이다.
읽으며 얻은 인사이트도 분명했다.
첫째, 추론형과 검색형을 구분하면 도구 선택이 빨라진다.
둘째, 프롬프트만으로는 부족하며 근거와 검증이 반드시 붙어야 한다.
셋째, RAG의 성패는 문서 분할과 임베딩 품질이 절반을 좌우하니 청크 크기와 오버랩을 신중히 튜닝해야 한다.
넷째, 벤치마크 평가는 선택이 아니라 필수로, ‘잘 말함’이 아니라 ‘바르게 말함’을 측정해야 한다.
다섯째, “근거 없으면 모름” 같은 제약 문구가 품질을 실질적으로 끌어올린다.
좋았던 점으로는 도해와 캡션이 풍부해서 팀 온보딩 자료로 쓰기 좋고, 코드·아키텍처·프롬프트가 한 흐름으로 이어져 있다는 점, 그리고 “그럴듯한데 틀린 답”을 어떻게 잡는지 매우 구체적으로 안내한다는 점을 꼽겠다. 개인적으로는 RAG 운영 파트에서 관측과 품질 모니터링 사례, 특정 도구 조합의 비용–성능 트레이드오프 표가 조금만 더 있었으면 금상첨화였겠다는 아쉬움이 남는다.
한 줄 평을 하자면 “멋진 답변”이 아니라 “신뢰 가능한 답변”을 만드는 법을 설계–코드–평가까지 연결해주는 실전서다. 별점은 4.6점. 책에서 안내한 대로 RAG와 그라운딩, 가드레일을 구현하기만 해도 서비스 품질이 눈에 띄게 달라질 것이다. 요약하면, LLM의 최대 리스크는 할루시네이션이고, 프롬프트 설계와 RAG, CoT, 사후 검증이 현업에서 가장 가성비 좋은 조합이다. 이 전자책은 인덱싱부터 검색, 증강, 생성, 평가까지 엔드투엔드 관점을 놓치지 않고 잡아준다.
미리보기
예제소스
