한빛미디어

"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다."

저는 <나는리뷰어다>활동을 꽤 오래 해오고 있습니다. 여러 가지 장점이 있기 때문인데요. 제가 최고로 꼽는 장점은 "내가 골랐으면 찾아 읽지 않았을 것 같은 책"을 읽고 "새로운 세상을 만나는 기회"를 얻는다는 것입니다.

​

<LLM 엔지니어링>도 그런 책이었습니다. 가끔 SNS를 통해 MLOps, LLMOps라는 용어를 들어봤지만, 제가 하는 일이 아니기 때문에 강 건너 불구경하듯 어렴풋이 개념을 짐작하는 정도였는데요. <LLM 엔지니어링>은 LLM Twin이라는 서비스를 구축하기 위한 청사진을 제시하며 LLMOps를 실질적으로 설명하고 있어서, 명확하게 이해할 수 있었습니다.

​

저자들이 LLM Twin이라는 이름으로 구축하는 서비스는 일종의 대필 서비스입니다. 사용자의 개인 블로그 글들을 긁어다가 사용자 문체를 학습하고 사용자가 쓴 것 같은 글을 써주는 거죠. 이를 '스타일 전이(style transfer)'라고 한다는데요. 사진을 입력하면 빈센트 반 고흐의 그림풍으로 바꿔주거나 일본 애니메이션 풍으로 바꿔주는 것과 비슷합니다.

​

그럼, 이런 서비스는 어떻게 구현해야 할까요?

저자들은 뭘 구현해 가야 하는지 방향성을 먼저 설명합니다. LLM Twin이라는 서비스가 뭘 하려고 하는지 기획의도를 이야기하고 MVP 즉 '최소 기능 제품'으로 구축해 나갈 것을 이야기합니다. 그리고 아키텍처 설계상에 안티 패턴으로 발을 헛디딜 부분에 대해서도 주지해 주죠.

​

이 아키텍처에 따르면 모든 ML 시스템은 특성, 학습, 추론이라는 세 가지 파이프라인으로 요약할 수 있다.

본문 44페이지

전체 청사진 개념을 명확하게 정의해 주고 사용할 도구들을 나열하기 시작합니다. 저자들은 파이썬을 사용해서 구현했는데요. Poetry라는 툴은 이 책에서 처음 접했습니다. 저는 파이썬 개발자는 아니지만 가끔 파이썬 코드를 사용할 때가 있거든요. 그럼 파이썬의 가상환경을 사용하게 되는데, conda나 venv는 써봤지만 poetry는 아예 생소했습니다. 그런데 저자는 poetry가 가장 유명하고 요즘 러스트로 개발된 uv도 테스트해 볼 만하다고 설명하더군요. (이렇게 빨리 바뀌는 건가 싶네요), poetry를 시작점으로 꽤 많은 숫자의 툴들을 설명하는데, 비교할 수 있는 툴들도 언급해 줘서, 나중이 비슷한 시스템을 구축할 독자를 배려하는 느낌이 들었습니다.

​

각종 블로그에서 크롤링 하여 이를 원시 데이터로 받아 RAG로 넘깁니다. RAG는 LLM의 최대 취약점으로 여겨지는 두 가지, 즉 최신 데이터를 반영하지 못하는 것과 환각 현상에 대한 대책이 됩니다. 그리고 그 결과를 벡터 DB에 넣어 빠르게 사용할 수 있는 구조를 만들고, 파인 튜닝, 추론, 그리고 최적화 과정을 거치게 합니다.

​

책을 읽다 보니 중국집에서 맛있는 짜장면을 먹다가 무심코 깔끔하게 정리된 주방 안을 들여다본 것 같은 기시감을 받게 되었습니다. 짜장면 맛을 보며 대충 어떤 재료로 조리했는지 상상해 보던 순간 주방 내부를 보게 된 겁니다. 주방 내부를 보니 어떤 기구를 써서 짜장면이 어떻게 조리되었을지가 주마등처럼 스쳐가는 거죠.

LLM 서비스가 어떤 기술을 쓰겠구나 하고 대충은 짐작하지만 만들 수 없는 상황입니다. 그런데 이렇게 말끔하게 조리도구들을 알려주는 것입니다. 그럼 이제 도전해 볼 만하겠죠.

​

요즘 IT는 AI를 빼고는 상상을 할 수 없을 만큼 변화하고 있습니다. 누군가는 소프트웨어가 세상을 먹어치우고 AI가 소프트웨어를 먹어치우고 있다고 말하기도 했죠. 이런 상황에서 그 핵심에 놓여 있는 LLM 서비스를 구축할 수 있는 청사진 같은 책을 읽는다는 건 많은 의미를 가질 것 같습니다.

​

게다가 저자는 FTI(특성, 학습 추론) 아키텍처를 설명하면서 이는 기존 서비스의 DB, 비즈니스 로직, UI 계층과 유사하다고 언급하고 있는데요. 이는 어쩌면 프런트엔드 개발 분야의 엄청난 변화를 예견하는 게 아닌가 싶었습니다. 올해를 시작으로 에이전트형 AI가 크게 발전할 것으로 많은 사람들이 내다보는데요. 에이전트 AI는 UX 분야를 근본적인 부분부터 흔들어 놓을 것 같습니다.

지금까지 UX는 서비스 제공 업체의 개발자가 뚫어 놓은 길을 통해 사용자가 DB와 만나는 접점이었는데요. 앞으로 UX는 서비스 제공 업체의 에이전트가 사용자와 소통하거나 사용자와 소통하는 에이전트와 소통하는 접점으로 바뀌게 될 것입니다.

그럼, 서비스를 구성하는 누군가는 FTI의 마지막 파이프라인인 '추론 파이프라인'을 이해하고 사용자 또는 사용자의 에이전트와 소통하는 UX를 만들어 줘야 할 필요가 생길 것이고, AI 시대 프런트엔드 개발자들의 역할이 되지 않을까 싶거든요.

​

그래서, 이 책이 제게 좀 더 큰 의미로 다가왔던 것 같습니다.

​