한빛미디어

2022년 11월 30일 ChatGPT가 출시된 이후 프롬프트 엔지니어링은 AI 개발자를 비롯하여 AI를 사용하는 모든 사람들에게 가장 큰 관심사가 되었다. 프롬프트를 생성하기 위한 다양한 팁, 논문, 강의, 도서가 쏟아지고 있다. 최근 컨텍스트 엔지니어링이란 용어가 부상하고 있는데, 그 핵심에는 여전히 프롬프트 엔지니어링이 자리 잡고 있다. 이 책은 할루시네이션을 넘어 신뢰할 수 있는 에이전트 시스템을 만들기 위한 프롬프트 엔지니어링 최신 기법을 다루고 있으며, 책에서 구현하는 파이프라인과 실습 코드는 프롬프트 엔지니어링에 대한 더 많은 인사이트를 제공할 것이다.

[선수 지식]

- 트랜스포머 기반의 생성형 AI, LLM 기초 지식

- RAG, AI 애플리케이션 개념

- Python, 랭체인, API, Google Colab

선수 지식이 없어도 책을 읽는 데는 지장이 없지만, 위의 개념을 알고 있으면 저자의 의도를 명확히 이해할 수 있어서 더욱 재미있게 읽을 수 있을 것이다.

[추천 독자]

- AI 서비스를 운영하고 있거나 구축하고 싶은 분

- RAG, AI 에이전트를 기획하는 담당자 및 개발자

- 고급 프롬프트 엔지니어링이 필요한 분

- 그 외 AI로 작업하고자 하는 모든 분

할루시네이션을 줄이는 분야와 프롬프트 엔지니어링 분야는 AI와 가장 밀접하기 때문에 사용자, 개발자 모두에게 유용할 것이다.

[키워드]

#프롬프트엔지니어링 #LLM #생성형AI #코랩 #OpenAI #Gemini #API #제로샷 #퓨샷 #CoT #RAG #CoVe #셀프어텐션 #지식생성 #자기검증 #벤치마크 #프롬프트체인 #랭체인 #ReAct #리플레션 #가드레일 #멀티에이전트 #도메인특화에이전트 #그라운딩 #지식그래프 #에이전트 #AI에이전트 #라마인덱스 #DSPy #AB테스트 #RLHF

[특징]

- 프롬프트 엔지니어링과 관련된 최신 논문 및 기법 소개

- 할루시네이션 기본 개념과 할루시네이션을 예방할 수 있는 다양한 기법을 비유를 들어 쉽게 이해할 수 있도록 개념적으로 설명

- RAG, 지식 그래프, ReAct, 리플렉션, 가드레일, 에이전트, 평가까지 신뢰할 수 있는 AI 서비스 파이프라인 설명

- 실무에 적용할 수 있는 인사이트를 제공하는 에이전트 기반의 실전 프로젝트 예시 코드와 설명

[책의 구성]

이 책은 전체 5개 장과 부록으로 구성되어 있다. (475페이지 분량)

Chapter 01 "프롬프트 엔지니어링 개요"에서는 프롬프트 엔지니어링의 개념과 LLM의 작동 원리를 설명하고 구글 코랩과 OpenAI, Gemini API를 생성하는 방법을 캡처 화면으로 알려주고 간단한 실습을 진행한다.

Chapter 02 "할루시네이션 예방 기법"에서는 할루시네이션의 정의와 유형을 설명하고 예방 기법으로 자기 일관성, CoT, 지식 생성, 자기 검증, CoVe, 평가 및 진단 도구를 개념적으로 설명한 후 실습한다.

Chapter 03 "심화: 프롬프트 응용"에서는 랭체인을 활용하여 ReAct, 리플렉션, 가드레일, 멀티 에이전트 시스템, 도메인 특화 프롬프트, 랭스미스를 이용한 RAG 시스템 평가 방법을 예제와 함께 설명한다.

Chapter 04 "그라운딩과 지식 통합"에서는 랭그래프의 체인과 RAG를 설명하고, Graph RAG, 에이전트의 개념과 한계점을 실습을 통해 살펴본다.

Chapter 05 "실전 프로젝트: 에이전트 만들기"에서는 이전까지 배운 개념을 적용하여 RAG, ReAct, 자율 에이전트를 구현하고 개선점을 함께 고찰한다.

"부록"에서는 최신 프롬프팅 기법 소개와 랭체인 이외의 프레임워크를 소개한다. 마지막으로 책임감 있는 AI 구축을 위한 방안을 설명한다.

[인용]

할루시네이션을 버그로 인식하지 않고 LLM의 특징으로 이해할 때 비로소 할루시네이션을 줄이거나 활용할 수 있을 것이다.

할루시네이션은 단순히 고쳐야 할 버그가 아니라 LLM의 본질적인 작동 방식에서 비롯된 창조적 특성으로 이해해야 한다. <중략>

이는 모델의 설계와 작동 원리를 깊이 이해할 때 비로소 적절히 다룰 수 있다. 이와 같은 모델의 특성은 단순히 결함으로 간주하기보다는 이를 제어하고 활용하는 방향으로 접근해야 함을 시사한다.

지은이의 말, p10

[소감]

이전의 프롬프트 엔지니어링 관련 책이 패턴이나 방법론, 템플릿 위주였다면, 이 책은 고급 프롬프트 엔지니어링 기법이 탄생하게 된 배경과 개념을 쉬운 비유를 들어 설명한다. 소개한 기법들을 외우지 않아도 자연스럽게 체화되는 기분이 들었다. 다른 기술서에 비해 글이 많음에도 불구하고 힘들이지 않고 재미있게 읽을 수 있었으며, 고급 프롬프팅 개념을 최신 RAG 방법과 툴 콜링, 멀티 에이전트 예제에 적용하여 설명하기 때문에 실무에 바로 적용할 수 있고, 기존보다 성능이 개선되는 것을 즉시 확인할 수 있을 것이다. 적용하지 않더라도 분명 개선될 것임을 직감할 수 있다. 샘플 코드는 GitHub에서 확인할 수 있다.

[추천]

"프롬프트가 어렵다." 혹은 "LLM이 내가 원하는 대로 동작하지 않는다."라고 생각하거나 느끼는 분에게 이 책을 추천한다. 프롬프트 엔지니어링은 기계적으로 학습해서 되는 것이 아니라 LLM의 특성으로 이해할 때 주어진 문제를 해결하고 인공지능의 잠재력을 최대한 발휘할 수 있기 때문이다.