한빛미디어

이 책은 LLM(Large Language Model)에 입문하고자 하는 개발자에게 아주 적합한 책이다-심지어 머신러닝, NLP 백그라운드가 없어도!-. OpenAI에서 제공하는 MaaS(Model as a Service) API를 활용한 간단한 프로젝트부터, 프롬프트 엔지니어링, Few-shot, Fine-Tuning, RAG 등 활용에 대한 전반적인 부분을 다루어 아이디어와 방법론들을 많이 얻어갈 수 있다. 서론에서 기존의 NLP 흐름과 transformer를 간략하면서도 핵심 내용만 전달하고 다양한 활용 사례로 시작하는 부분도 좋았다. 책의 분량 자체는 179 페이지 정도로 짧지만 빠르게 입문하기에 좋은 책이다.

개인적인 요즘의 LLM 흐름에 대한 인사이트를 공유하자면, 최근 대규모 언어 모델로 넘어오고 나서는 이전에 존재했던 Pre-trained Model 기반으로 Fine-Tuning하는 기법은 일반 기업, 개인에게, 심지어 기존의 대기업에게도 리소스의 부담이 있다. 엔비디아 주가는 매년 천장을 뚫고 올라가고 있고, 나날이 비싸지는 GPU 비용과 촉각을 다투는 기술 개발의 속도, 최근 줄어든 IT호황의 분위기 등으로 순수한 연구로서의 AI연구는 소수에게만 열려 있는 분위기인듯 하다. 이제는 인공지능을 어떻게 활용하여 사업에 적용할 것인지, AI를 활용한 비즈니스 모델과 함께 모델을 최적화하여 기존 산업과 결합하는 분야로 정착하는 양상을 보인다. 그래서 최근에는 PEFT(Parameter-Efficient Fine-Tuning) 기법을 활용하여 LLM을 FT하거나, RAG시스템을 결합하여 hallucination을 해소하고 풍부한 답변을 얻는 등의 연구개발이 활발히 이루어 진다. 

또한 최근 LLM 프로젝트를 하면서 개인적으로 prompt engineernig에 대한 기술적인 회의감이 있었다. 멋지게(?) 모델링을 하기 보다는 전처리와 프롬프트 튜닝이라는, 꼭 머신러닝 엔지니어가 아니어도 할 수 있는 듯한 기술적인 부분이 부족한 분야라는 약간의 선입견을 갖고 있었다. 하지만 LLM의 추론 원리와 작동 방식을 기반으로 한 설명을 읽으니 이 부분도 연구 분야로써의 가치가 충분하겠다-라는 인사이트를 얻을 수 있었다.

전문: https://sysout.tistory.com/103 [Emily's Tistory:티스토리]

    “한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 제공 받아 작성된 서평입니다.”