한빛미디어

LLM을 서비스에 적용하기 위해서는 적절한 프롬프트와 모델을 선택하여 사용자가 원하는 질의에 답변을 제공하는 것이 가장 중요하다.

하지만 이에 못지않게 세심히 고려해야 할 사항이 있다면, 유지 보수에 따른 관리 비용과 LLM 서비스 설계의 최적화라 할 수 있다.

연구 단계에서의 LLM은 앞서 언급한 바와 같이 사용자가 요청한 질의에 대한 적절한 응답을 내려주는 것이다. 하지만 이를 현실 세계에 적용하는 것은 또 다른 문제이다. 이를 고도화하고 산업현장에 적용하기 위해서는 실리에 맞는 비용이 들어가게끔 단가를 낮추(감축) 는 것이 핵심이기 때문이다.

알파고가 세상에 등장한 이후로, 전산학 분야는 AI에 있어서 상당한 급진적 진보를 이루었다. 그럼에도 그동안 이를 현실 세계에 적용하기에 쉽지 않았던 점은 일반 사용자가 접근하기 어렵다는 것과 설령 일반 사용자가 사용할 수 있더라도 이에 대한 막대한 유지 보수 비용 때문이었다.

그런 점에서 이번에 출간된 'LLM 서비스 설계와 최적화' 책은 LLM의 성능과 비용 두 가지 토끼를 잡기 위한 훌륭한 접근법을 다수 소개했다는 부분에서 의의가 크다.

【책 내용 요약】

이 책은 LLM에 대한 기초지식이 없이 접근하기엔 약간의 진입장벽이 있는 책이므로, LLM 관련 기본 지식이 충분하지 않은 분들이라면 추후 본인의 역량이 어느 정도 성장한 후에 읽어보시길 권장한다.

책의 내용은 크게 비용 절감, LLM 기술 스택별 최적화/고도화/튜닝 기법 등으로 이루어져 있다.

첫 번째 챕터의 경우, 모델별 사용자 입력 크기에 따른 예상 비용을 꼼꼼히 정리했던 부분이 상당히 인상적이었다.

책에서 크게 다루는 부분은 아래와 같다.

• LLM 모델별 사용자 입력에 따른 예상되는 비용
• 비용 최적화를 위해 접근 가능한 튜닝 포인트
• 서비스에 따른 모델 선택의 중요성과 모델별 특징
• 비용 관점에서의 최적화 추론 테크닉
• 성공적인 생성형 AI 도입을 위한 팁
• 등

만약 지금 실 서비스에 LLM을 접목하기 위해 고민하는 개발자분들이 계신다면 위의 내용들을 참고하여 본인에게 필요한 부분을 선택하여 학습하길 권장한다.

【 LLM 서비스 설계와 최적화를 읽고 나서 】

연구와 서비스의 가장 큰 차이는 고려해야 할 환경 변수와 유지 보수 비용의 차이이지 않을까 싶다. 연구는 연구하려는 주제를 특정 상황 하에 진행하는 반면 현실에 적용되는 서비스 / 기술은 사용자에게 노출되는 수많은 환경 변수 하에 구축되고 제공되기 때문이다.

그렇기에 수많은 연구들이 제안되고 제시되었으나 대다수가 현실성이 떨어진다는 이유로 사장되거나 현실화되지 못했었다.

하지만 LLM이 고도화될수록, AI가 대중화될수록 기존에 존재했던 연구와 서비스 사이의 괴리가 이전보다는 쉽게 매워지지 않을까 싶다.

LLM의 막대한 인공 신경망은 이전에 사람들이 쉽게 도출하지 못했던 지식의 결합과 연계를 너무나 자연스럽고 빠르게 수행할 것이기 때문이다. 이는 연구 / 서비스 개발 분야의 새로운 지표로써 다가설 것이며 나아가 세상을 한층 더 가속화하여 변화 시킬 것이다.

이제는 LLM 없이 산업 세계에서의 생존을 보장하기 어려운 시대가 되었다.

#본 도서는 "한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다.

###### 감사합니다 ######