한빛미디어

기존 LLM 성능을 향상시키는 방법은 크게 3가지로 나뉜다.

​

1. 이전 모델을 목적에 맞게 파인 튜닝한다.

​

2. RAG를 사용하여 knowledge cutting이 발생한 이후 시점의 데이터를 학습시킨다.

​

3. prompt를 튜닝하여 LLM이 사용자가 의도한 응답을 만들 수 있도록 유도한다.

​

이번에 리뷰한 '생성형 AI를 위한 프롬프트 엔지니어링'은 3번의 방법에서 LLM 응답을 사용자가 의도한 방향대로 이끌어 낼 수 있도록 다양한 방안을 정리한 책으로, 청킹 전략을 비롯한 역할 할당, 랭체인 적용법 등이 정리되어 있다. 또한 적당한 예시를 제시하고 있기 때문에 LLM에 친숙하지 않은 개발자라 할지라도 쉽게 내용을 이해할 수 있는 구성을 하고 있다.

​

【책 내용 요약】

​

이 책은 LLM에 관한 기초 지식이 있어야 하지만, 반드시 딮하게 알고 있진 않아도 된다. 다만, 랭체인을 사용하는 만큼 Python 기본 동작 원리와 문법에 대해서는 반드시 알고 있어야 한다.

​

책의 내용은 순수 LangChain과 LangGraph를 이용한 LLM 서비스 구축에 집중되어 있다.

​

책의 구성은 아래와 같이 이루어져 있다.

​

• 프롬프트란 무엇이며 프롬프트 엔지니어링은 무엇인가?
• 프롬프트 엔지니어링 (텍스트 편)
  • 케이스에 기반한 스터디
  • 램체인을 활용한 심화 스터디
  • FAISS 사용법 등
• 프롬프트 엔지니어링 (이미지 편)
  • 확산 모델이란 무엇인가?
  • AI 이미지 생성의 역사
  • 미드저니로 이미지 생성하기 등

​

책의 구성은 이론 설명 -> 코드 설명 -> 정리 순으로 되어있다.

​

더욱이 책의 구성이 이미지와 텍스트로 나누어져 있기 때문에 본인이 당장 필요한 부분이 있다면 이를 취사적으로 선택하여 학습하면 된다. 

​

【 프롬프트 엔지니어링을 읽고 나서 】

​

LLM의 튜닝 관점에서 접근할 수 있는 부분은 필자가 생각하기에 3가지 부분이라 생각한다. 앞서 언급한 바와 같이 프롬프트, 파인튜닝, RAG가 그것이다.

​

RAG의 경우에 벡터 테이블에 신규 영역의 지식을 넣음으로써 LLM이 이를 이해할 수 있게 하는 것이고, 파인 튜닝이라 함은 모델 자체를 우리가 원하는 형태로 변조하는 과정이라 할 수 있다.

​

프롬프트 튜닝은 어찌 보면 LLM이 우리가 원하는 질문을 잘 이해하고 LLM이 우리가 제시한 답안으로 갈 수 있게 잘 유도하는 과정이라 할 수 있다.

​

따라서 LLM을 최적화하는 가장 쉬운 방법부터 나열한다면

​

프롬프트 -> RAG -> 파인튜닝 이 될 것이다.

​

만약 LLM을 최적화하는 과정을 걷고 계신 개발자가 계시다면, 프롬프트 엔지니어링을 우선 수행해 보고 이 과정에서 최신 데이터가 필요하다면 RAG 도입을 그럼에도 성능이 좋지 않을 경우 파인튜닝 하는 순으로 LLM을 사용해 본다면 어느 정도 원하는 성능을 취할 수 있을 것이라 생각된다.

#본 도서는 "한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다.