메뉴 바로가기 검색 및 카테고리 바로가기

한빛미디어

독자리뷰

LLM의 기본부터 응용까지 쉽고 빠르게 정복하기!

jinforea***

|

2024-03-27

쉽고 빠르게 익히는 실전 LLM

LLM 입문자도 당장 시작할 수 있게 해 주는 단계별 가이드

  • 저자 : 시난 오즈데미르
  • 번역 : 신병훈
  • 출간 : 2024-02-01

저는 감성공학 분야에 대한 관심이 있어 자연스럽게 LLM에 대한 학습이 필수적인데, 본 책을 통해 말 그대로 쉽고 빠르게 LLM의 기초를 다지고, 응용해볼 수 있는 시간이 되었습니다.

특히 GPT가 최근 뜨거운 감자가 되면서 관련 지식이 없는 분들께서도 사용해본 경험이 있으실텐데, 프로그래머는 물론, 프로그래머가 아닌, 인공지능에 낯선 분들께서도 LLM의 개념과 여러 기능을 사용하는 방법까지 충분히 이해하실 수 있을 것 같습니다.


이 책은 부록을 포함하여 크게 4가지 부분으로 나뉘어져 있습니다.

- LLM에 대한 소개

- LLM 활용법

- 고급 LLM 사용법

- 부록: LLM 관련 FAQ, 용어 해설, LLM 앱 개발 시 고려사항

다른 한빛미디어의 도서와 마찬가지로, 저자분의 github에 링크가 업로드되어 있어 편리하고 빠르게 소스코드에 접근이 가능합니다.

 

1장은 LLM의 기초 단계를 다룬다 생각하시면 될 것 같습니다.

LLM의 정의와 특징, 작동 원리에 대해 이해한 후 최근 핫한 모델에 대해 이해해보고,

도메인 특화 LLM과 LLM을 활용한 앱의 종류에 대해서도 알아볼 수 있습니다.

특히, 저는 대학원 준비 과정에서 자연어 처리를 관심분야로 정하고 원서와 면접 준비를 진행했었는데

본 책을 미리 접했다면 입시 준비에서 고생 없이 준비할 수 있었을 것이라는 후회가 들더군요..

2024년 2월 이후로 비슷한 경험이 있으신 분이 계시다면 이 책을 꼭 추천드립니다.

왜냐면,, Transformer기와 BERT에 대한 사전 지식은 정말 자주 출제되거든용...

 

2장에서는 hyperparameter를 조정하여 LLM의 기능을 충분히 활용해보는 시간을 가졌습니다.

이 과정을 fine-tuning이라고 부르는데, 다양한 LLM의 각 모델마다 설정할 수 있는 parameter가 다르기 때문에

케이스의 목적에 맞는 튜닝을 진행해야 합니다.

그 다음으로는 더 복잡하거나, 여러 단계의 작업을 수행하기 위해 한 LLM 모델을 또 다른 LLM 입력에 넣어

연쇄적으로 수행하는 prompt chaining을 포함한 prompt engineering에 대해 학습할 수 있었습니다.

 

여기서 prompt engineering이란, 정확하고 유용한 출력을 위해

효과적으로 작업을 전달하는 입력창을 만드는 작업을 의미합니다.

파이썬 언어에 대한 어느정도의 기초지식만 있으면 충분히 프롬프트 엔지니어링에 도전해보실 수 있어요!

본 장에서는 특정 어조, 구문, 스타일에 필요한 작업과 특정 도메인에 특화된 언어를 핸들링하는 과정에서 유용한

Few-Shot 학습을 위주로 학습합니다.

 

3장은 난이도가 어느정도 있습니다. 본 장에서는 multi-modal 시스템에서

ViT, GPT-2, DistilBert를 사용해보는 시간을 가졌습니다.

특히, 저는 이미지에 대한 개방형 질문과 사람이 직접 작성한 답변 쌍이 데이터셋으로 제공되고 있는

Visual QA 라는 사이트를 처음 접해봤는데,

여기서 데이터를 제공받아 강화학습을 진행한 과정이 아주 흥미롭고 기억에 남았습니다.

모델이 발달함에 따라 다양한 데이터셋을 제공하는 서비스도 따라서 발전하는구나,, 라는 걸 깨닫기도 했구요.

생소하고 낯선 LLM 모델을 통해

다양한 환경에서 fine-tuning을 진행해보다 보면, 벌써 책의 끝이 보입니다.

4장의 부록은 서평으로 처음 남겨보는 것 같네요..!

솔직히 말하면,, 저는 책의 부록을 잘 읽지 않습니다.

특히 정보를 주는 책의 경우 척도별 계산값이라던가,, index 정도를 찾을 때가 많은데,

이 책은 부록 자체가 하나의 책처럼 필요한 정보의 요약본이기 때문에

도서를 완독한 후 복습 차원에서 읽어보게 되더군요.

 

혹시 프로그래밍이나 AI에 친숙하지 않은 독자분들께서는 해당 부록을 참고하셔서

도메인 지식을 함께 습득하며 읽어보시면 훨씬 이해가 쉬우실 것 같습니다!!

그리고 LLM 앱과 관련하여 개발을 계획중에 있으신 분께서는

부록 C LLM 애플리케이션 개발 고려사항 역시 큰 꿀팁이 될 수 있을 것 같습니다.

전체적으로, 본 도서 쉽고 빠르게 익히는 실전 LLM

- pre-trained model, fine-tunning, attention, tokenizer 등의 LLM의 필수 개념은 물론,

- API와 python을 활용한 fine-tuning

- 의미 기반의 검색 시스템의 구축과 검색 기능 최적화 방법

- few-shot 과 같은 고급 prompt engineering

을 위주로

오픈소스는 물론 클로즈드 모델의 기능도 접해볼 수 있었습니다.

다시 한 번 말하지만,, 면접 전에 이 책을 알았더라면 얼마나 좋았을까 라는 생각이 들어

진심으로 추천드리는 LLM 도서였습니다.


- 본 서평은 출판사로부터 책을 제공받아 읽고 주관적으로 작성된 글입니다.

닫기

해당 상품을 장바구니에 담았습니다.이미 장바구니에 추가된 상품입니다.
장바구니로 이동하시겠습니까?