한빛미디어

— 무림 비급이 아니라, 설계 철학에 대한 책

이 책을 ‘규화보전’ 같은 무림의 숨은 비급이라고 생각하고 접근하면 어울리지 않을 수도 있겠다. 어떤 절대적인 비법이나 비밀스러운 기술을 알려주는 책이라기보다는, 이제 막 형성되고 있는 분야의 윤곽을 정리해주는 안내서에 가깝기 때문이다.

나는 데이터를 서빙하는 회사에서 일하고 있다. 이 분야에 오래 몸담았다고 하긴 어렵지만, 한때는 “데이터를 서빙하는 것이 곧 AI인가?”라는 생각을 했던 적도 있다. 그러나 이 책을 읽으며 느낀 것은, 단순히 데이터를 잘 전달하는 것과 AI 에이전트를 설계하는 것은 결이 다르다는 점이었다. AI 에이전트는 단순한 데이터 처리 시스템이 아니라, 의사결정과 오케스트레이션을 포함한 하나의 복합 시스템이라는 인식이 분명해졌다.

1️⃣ 정의부터가 아직 정리되지 않은 영역

책의 초반부는 AI 에이전트의 정의, 종류, 모델 구성, 활용 사례 등을 설명한다. 하지만 읽으면서 느낀 점은 이 분야가 아직 초기 단계라는 것이다. 용어가 완전히 정리되지 않았고, 일부는 오남용되면서 본래 의미가 흐려진 부분도 있다. 책은 이러한 혼란까지 함께 짚어준다.

어쩌면 이 책은 이미 완성된 기술을 설명하는 교과서라기보다,
형성 중인 생태계를 구조화하려는 시도에 가깝다.

2️⃣ 모델과 오케스트레이션 — 낯설지 않은 풍경

두 번째 파트에서는 모델 선택과 오케스트레이션 방법을 다룬다. 이 부분을 읽으며 과거 경험이 떠올랐다.

나는 과거 중국 인스퍼(Inspur)에서 개발했던 딥러닝 개발 플랫폼 AI STATION을 PoC, 설치, 납품, 유지보수까지 담당한 적이 있다. 당시 이 솔루션을 보며 “이건 결국 Kubernetes 위에 구성된 Docker 기반 오케스트레이션 아닌가?”라는 생각을 했었다. GPU 서버를 여러 대 운영하고, 워크로드를 분배하고, 자원을 관리하는 구조는 결국 하나의 통합 솔루션이었다.

또한 GPU가 아닌 IPU 서버에 대한 PoC를 진행한 적도 있다. 이때 InfiniBand(인피니밴드) 기반 네트워크 구성이 인상적이었다. 이후 딥러닝 플랫폼에서 InfiniBand를 활용한다는 이야기를 들으며, GPU 환경에서는 이것이 왜 더 복잡한지 고민해본 적도 있다.

이런 경험 때문인지, 책에서 말하는 에이전트 오케스트레이션은 완전히 새로운 개념이라기보다는,
기존 인프라 설계 위에 LLM이라는 추론 계층이 추가된 형태처럼 느껴졌다.

다만 기술의 변화 속도가 너무 빠르다. 책이 설명하는 기술 스택조차 이미 다음 세대가 등장하고 있는 상황이다. 그래서 이 책은 특정 도구를 배우는 용도라기보다, 선택 기준을 세우는 사고방식을 익히는 데 더 적합하다고 느꼈다.

3️⃣ 기술 스택 선택 — 엔지니어의 본질

중반부에서는 LangChain과 같은 오케스트레이션 도구, 다양한 기술 스택 선택 기준을 설명한다. 이 부분은 특히 중요하게 읽혔다.

초기에 AWS 업무를 시작했을 때 나는 데이터 엔지니어를 “나보다 훨씬 깊이 아는 사람들”이라고 생각했다. 하지만 시간이 지나며 그 의미는 달라진 듯하다. SQL을 잘 짜거나 Python을 잘 다루는 사람이 데이터 엔지니어로 불리고, 때로는 애플리케이션 개발자와 크게 다르지 않은 역할을 수행하는 모습도 보았다.

최근 상대하는 일부 엔지니어들은 기초적인 네트워크 테스트나 쿼리 동작 원리조차 깊이 이해하지 못하는 경우도 있었다. 물론 내가 신입 위주로 상대하고 있는 것일 수도 있다. 하지만 점점 느끼는 것은, 하드웨어부터 네트워크, 시스템, 애플리케이션까지 전체를 아우르는 엔지니어는 점점 희귀해지고 있다는 점이다.

AI 에이전트 엔지니어링은 바로 그 종합 역량을 요구하는 분야다.
모델만 이해해서는 부족하고, 인프라만 알아도 부족하다.
전체 시스템을 설계하고 판단할 수 있어야 한다.

4️⃣ 운영, 거버넌스, 그리고 보안

책의 후반부는 운영과 거버넌스, 보안에 많은 분량을 할애한다. 개인적으로 가장 공감한 부분이다.

운영 환경이 어떻게 동작하는지를 정확히 이해하는 것은, 결국 성과 지표를 제대로 측정하기 위한 전제조건이다. ELK, Datadog 같은 상용 솔루션을 도입하는 것도 하나의 선택이지만, 각 솔루션의 한계와 비용 구조를 이해하지 못하면 기술 부채로 이어질 수 있다.

특히 보안은 아무리 강조해도 부족하지 않다.
AWS Bedrock 기반 프로젝트를 진행할 때, 일정이 촉박하다는 이유로 일부 보안 고려 사항을 후순위로 미뤘던 경험이 있다. “나중에 보완하자”라고 생각하며 넘어갔던 부분이 지금도 아쉽다.

이 책은 그런 태도를 경계하라고 말하는 듯하다.
AI 에이전트는 단순한 API가 아니라, 외부 도구와 데이터를 광범위하게 연결하는 시스템이기 때문이다.

✨ 결론

『AI 에이전트 엔지니어링』은 무림의 비급처럼 비밀 기술을 전수하는 책은 아니다. 대신, 빠르게 변화하는 기술 환경 속에서 무엇을 기준으로 판단하고 선택해야 하는지 생각하게 만드는 책이다.

GPU 서버 운영 경험, IPU PoC 경험, 그리고 AWS 솔루션 아키텍트로서의 설계 경험을 돌아보면, 이 책은 낯설기보다는 익숙한 고민의 연장선에 있었다. 다만 대상이 LLM과 에이전트로 확장되었을 뿐이다.

이 책은 초보자에게는 출발점이 될 수 있고,
경험자에게는 스스로의 설계 철학을 점검하게 만드는 거울이 될 수 있다.

기술은 빠르게 변하지만,
좋은 엔지니어의 기준은 결국 같다.

전체를 이해하려는 태도

기술 선택의 책임감

운영과 보안을 놓치지 않는 균형감

그 점에서 이 책은 충분히 읽어볼 가치가 있는 양서라고 생각한다.

  "한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다."