메뉴 바로가기 검색 및 카테고리 바로가기

한빛미디어

독자리뷰

할루시네이션을 줄여주는 프롬프트 엔지니어링

cherry8***

|

2025-10-16

할루시네이션을 줄여주는 프롬프트 엔지니어링

“할루시네이션은 버그가 아니라 LLM의 창조적 특성이다!” 할루시네이션 특성을 ‘제대로’ 제어하는 법을 다루는 최초의 프롬프트 가이드북

  • 저자 : 한성민
  • 출간 : 2025-09-30

"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다."

 

 


1. 이 책은 어떤 책인가?

이 책은 인공지능, 특히 챗GPT 같은 대화형 AI가

왜 가끔 틀린 말을 할까 라는 문제에서 출발한다.

그리고 그걸 어떻게 줄일 수 있을까?에 대한

실용적인 방법을 설명한 책이다.

한마디로 말하면, "AI가 이상한 소리 덜 하게 만드는

프롬프트 쓰는 법"을 알려주는 책이다.

요즘 누구나 챗GPT 같은 AI를 쓰는데, 써보면 가끔

‘진짜처럼 말하지만 사실은 틀린 말’을 할 때가 많다.

이런 현상을 AI에서는 "할루시네이션(Hallucination)",

즉 ‘환각’이라고 부른다.

저자는 이 현상을 그냥 “AI의 버그”라고 보지 않고,

AI의 특징 중 하나로 보고, 우리가 똑똑하게 제어하면

더 좋게 쓸 수 있다고 말한다.

그리고 그 방법이 바로 ‘프롬프트 엔지니어링’,

즉 프롬프트(질문 또는 지시문)를 잘 쓰는 기술이다.

AI사용이 일상화되고 있고, AI엔지니어가 현재 직면한

가장 큰 문제는 '오류를 줄이는 것'이다. AI분야의

가장 난제인 '할루시네이션'에 대해 언급정도만 된

도서들이 많았는데, 해결을 위해 접근할 수 있는

도서는 현재까지는 이 책이 유일한 것 같다.

 

 

 

 

 

 

 

 

2. 저자 소개

저자 한성민.

인공지능 분야에서 10년 넘게 일해온 엔지니어이고,

실제로 기업에서 AI 관련 기술을 개발하고 적용해 본

경험이 많다.

구글에서도 AI 분야 전문가로 인정받고 있고,

여러 개발자 모임에서 발표를 통한 지식 공유 활동.

LLM구축과 프롬프트 엔지니어링을 통한 교육 분야

개선에 관심이 높음.

3. 용어 정리

 

-할루시네이션

AI가 사실 아닌 걸 그럴듯하게 말하는 현상

(예: 거짓 정보, 잘못된 설명 등)

-LLM(Large Language Model)

대규모 언어 모델은 자연어 처리의 새로운 시대를

열며 인간처럼 텍스트를 이해하고 생성하는 능력을

가진 인공지능 시스템.

 

-프롬프트

모델이 작업을 수행하는 데 필요한 정보를 포함하는

입력 텍스트

-프롬프트 엔지니어링

입력 값을 정교하게 설계하여 모델의 성능을 극대화

하고 사용자의 의도를 정확히 반영하는 결과를 도출

하는 핵심 과정.

-Few-shot / One-shot / Zero-shot

프롬프트에 예시를 몇 개 줄 것인지에 따라 나뉨

(예시 없음 = Zero-shot, 예시 하나 = One-shot 등)

-Chain-of-thought

AI가 답을 내기 전에 생각 과정을 적게 만드는 방식

(일종의 중간 계산)

-RAG

외부 자료를 검색해서 AI가 참고하도록 만드는 방식

(예: 위키백과 검색 후 답하기)

-에이전트

여러 AI 기능을 조합해서 하나의 시스템처럼 작동하게 만든 것

(예: 검색 → 요약 → 검토 순서로 AI가 움직이게 함)

4. 책 구성

총 5개의 챕터로 구성되어 있다.

chapter 1 | LLM과 프롬프트 엔지니어링 기초 -

기본 개념 이해와 실습 환경 설정

+실습+오늘날의 기법들 소개

chapter 2 | 할루시네이션 예방 기법 - 자기 일관성,

CoT, CoVe, 자기 검증, 지식 생성 프롬프팅

chapter 3 | 프롬프트 응용 - 랭체인, ReAct,

리플렉션, 멀티 에이전트 설계

chapter 4 | RAG와 지식 통합 - 외부 데이터 연동,

지식 그래프, 안정적 검색

chapter 5 | 실전 프로젝트 - 개인화 챗봇,

실시간 Q&A, 트렌드 분석 에이전트 완성

부록 | 최신 기법과 도구 - 심화 프롬프팅 기법,

책임감 있는 AI 구현 전략

5. 좋았던 점

어려운 개념을 실제 사례와 함께 풀어주는 구성이

좋다.

전문 개발자가 아니지만 AI를 어떻게 더 똑똑하게

쓸 수 있는지 배울 수 있었다.

단순히 질문만 잘 하는 게 아니라, 그걸 검토하고

다시 묻게 만드는 구조를 알게 되어 유용했다.

실제 코드나 예시가 있어서 실무자뿐 아니라

AI 프로젝트에 관심 있는 사람에게도 실용적이다.

6. 정리하며 – 이 책을 추천하는 이유

AI를 단순히 재미나 흥미로만 사용하는 시대는 끝났다

고 생각한다.

이제는 정말 중요한 의사결정이나 정보 제공에도 AI가

활용되고 있다.

그만큼 틀린 정보를 덜 내도록 유도하는 기술이 중요

해졌다.

AI관련 일을 하고 있거나 공부하고 있고,더 활용하고

싶은 사람이라면 꼭 한번 읽어보길 추천하고 싶다.

특히 프롬프트를 잘 쓰고 싶은 사람, 챗봇이나 요약

서비스를 만들고 싶은 사람에게는 더더욱 도움이

될 것이다.

 

 

 

 

 

 

 

 

 

 

 


<LLM 프롬프트 엔지니어링 기법을 적용하기 전에

미리 준비할 것 - 둘 중 택 1 하여 로그인>

(유료)

1.OpenAI Api Platform 주소 :

https://platform.openai.com/

(무료)

2.Google Ai studio 주소 :

https://aistudio.google.com/

<LLM 실습>

Google Colaboratory 주소 :

https://colab.research.google.com/

<부록 : 이 책의 코드 예시>

https://github.com/KennethanCeyer/robust-prompting-notebooks

#한빛미디어 #할루시네이션을줄여주는프롬프트엔지니어링

#할루시네이션 #프롬프트엔지니어링 #프롬프트 #LLM #랭체인 #RAG #제미나이 #AI

#FLOAT #에이전트 #개발자추천도서 #개발자필독서

#AI필독서 #추천도서

닫기

해당 상품을 장바구니에 담았습니다.이미 장바구니에 추가된 상품입니다.
장바구니로 이동하시겠습니까?