한빛미디어

"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다."

NLP와 LLM 실전가이드

박조은 님께서 번역해주셨다. 어디서 많이 들어봤는데...

박조은 님은 구독자 2만이 넘는 유튜브 오늘 코드를 운영하고 있다.

https://www.youtube.com/@todaycode

오늘코드todaycode

? Microsoft MVP(Python Developer Technologies) ? 인프런 지식공유자 : https://www.inflearn.com/users/91177/@todaycode 공공데이터 분석, 데이터 시각화, 캐글과 데이콘 머신러닝/딥러닝 튜토리얼 Pandas, Numpy, Scipy, sc

www.youtube.com

유튜브에는 이 책에 대한 일부 강의도 올려주시고 있다.

책의 내용에 대한 실제 코드는 아래의 깃허브에서 코랩 링크를 찾을 수 있다.

https://github.com/corazzon/Mastering-NLP-from-Foundations-to-LLMs

GitHub - corazzon/Mastering-NLP-from-Foundations-to-LLMs: Mastering-NLP-from-Foundations-to-LLMs

Mastering-NLP-from-Foundations-to-LLMs. Contribute to corazzon/Mastering-NLP-from-Foundations-to-LLMs development by creating an account on GitHub.

github.com

요즘엔 책 하나에 얽힌 다른 소스들이 많아서 먼저 소개부터 했다.

이제, 이 책에 대해 조금 리뷰하고자 한다.

하나의 개념에 대해 깊게 고민들어가는 책이 아니다.

NLP와 LLM 에 대한 전체적인 설명이다. 

역사적으로 중요한 관점과 개념적으로 필요한 부분을 적어놓아서 이 분야의 전체적인 흐름을 파악하기 좋았다.

자세히 알고 싶다면 각자가 조금 더 찾아봐야한다.

책에 소개되는 RAG , Langchain 등은 이미 수많이 다른 책에서 언급되고 자료가 많으니 넘기겠다.

내가 흥미롭게 본 부분은 9.6 절의 다중에이전트이다.

AutoGen

다중에이전트는 최근에 대규모 언어 모델 분야에서 주목받는 기술이라고 한다.

챗 GPT 처럼 사용자가 단일 대규모 언어 모델과 직접 상호작용하는 대신, 여러 대규모 언어 모델을 설정한 뒤 각 모델에 고유한 시스템 프롬프트를 부여해 각기 다른 역할을 맡긴다.

이로 인해, 기존 응답이 재검토 되면서 환각이 감소된다.

또한 각각의 모델이 맡은 롤(백엔드 엔지니어, 프론트 엔지니어, 인프라 엔지니어 등)에 특화된 소형 모델을 만들면 소모되는 자원도 아끼고 정제된 결과를 얻을 수 있다.

유튜브에서 강의 영상이 있으니 한번 보길 바란다.

https://www.youtube.com/watch?v=qU68asZ2ksY&list=PLaTc2c6yEwmrNTO7vWp50vRMvtwjrZ-Lr&index=9

멀티에이전트

코드는 여기서 확인할 수 있다. (autogen으로 openai 말고도 ollama 를 활용한 로컬 모델도 사용할 수도 있다.)

https://colab.research.google.com/github/corazzon/Mastering-NLP-from-Foundations-to-LLMs/blob/main/Chapter9_notebooks/Ch9_Completing_a_Complex_Analysis_with_a_Team_of_LLM_Agents.ipynb

AutoGen 이 어떻게 활용될 수 있는지에 대한 설명도 있는데, 생각보다 업무에 적용할만한 부분들이 보인다.

개인적으로 AI 책에서 가장 중요하게 보는 부분인 트렌드도 있다.

트렌드

다른 책에서 잠깐 보는 것과 달리

다양한 측면에서의 트렌드와 전문가의 인터뷰까지 담겨있다.

AI 를 개발하는 입장에서 이러한 부분이 도움이 많이 되는 것 같다.

개념을 정리하고 인사이트를 얻기에 좋은 책이었다.