한빛미디어

? 한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다.

⏹️들어가며 | AI , 진짜는 지금부터다.
질문은 단순한 언어 행위가 아니다. 무언가를 알고자 하는 의도이자, 모른다는 사실을 자각하는 인식의 출발점이다.

인류는 질문에 답을 찾는 방식을 계속 바꿔왔다. 책은 지식을 축적했고, 인터넷은 그것을 빠르게 확산시켰다.
그리고 생성형 AI는 질문에 대한 답을 “검색”이 아니라 “생성”의 방식으로 제공하기 시작했다.

지금까지는 우리가 질문을 던지고, 답을 받고, 그에 따라 다시 행동하는 방식은 본질적으로 동기적(synchronous) 구조였다.
질문과 답, 판단과 실행이 하나의 시간선 위에서 순차적으로 진행된다.

그러나 최근에 나오기 시작한 AI 에이전트는 다르다.
단순히 답을 제공하는 것이 아니라, 목표를 이해하고 스스로 탐색하며 행동을 이어간다.
우리가 다시 묻기를 기다리지 않고, 필요한 것을 먼저 찾아내고 제안한다.

생각해보니 그게 진짜 AI 같기도 하다.
오늘은 진짜 AI의 시대에서 'AI 에이전트 엔지니어링'라는 책을 리뷰하고자 한다.

⏹️AI Agent에서 'Agent' 를 정의하다.
실제로 자동화 워크플로를 요즘 만들고 있어서 그런지 공감되는 부분이 많았다.

비개발자인 나조차도 AI Agent를 구축해보는 것에 도전할 만큼 현재 많은 관심을 받고 있지만, 현재 상당히 과잉 사용되고 있고 아직까지 개념이 완벽하게 정립되지 않았다.

단순한 자동화 스크립트, RAG 챗봇, 워크플로우까지 개념들을 나열하고 에이전트는 단순한 실행아니라 의사결정을 수행하는 시스템이라는 것을 설명한다. 여기서 인상적이었던 부분은 동기적 구조가 아니라 비동기적 구조로서의 바라보는 것이다.
요즘 핫한 오픈클로(OpenClaw)의 핵심이 이 개념이라고 느껴졌다.

여기서 더 나아가서 지연과 통제구조를 어떻게 설계해야 할지, 그리고 AI 비용까지 고려해야 할 것들이 상당히 많은데 그런 개념들을 훑어줘서 머리 속에서 정리된다는 느낌이 많이 들었다.

⏹️에이전트는 구조다.
LLM를 붙인 작은 워크플로우만 구축해봐도 상당히 고려할 부분이 많다는 걸 알게 된다.

이 책에서는 그러한 설계에서 어떤 점을 고려해야하는지 각각의 선택에 따라 어떤 트레이드 오프가 있는지 자세하게 설명하고 있다.
보통 아래와 같은 요소를 고려하게 되고 많은 사람들이 모델 성능에 집착하는 경향이 있는데 오케스트레이션과 설계 트레이드 오프가 더 중요하다는 것을 알려준다.

모델 선택
도구(Tools)
메모리
오케스트레이션

특히 좋았던 점은 “언제 에이전트를 쓰지 말아야 하는가”를 명확히 구분하는 부분이다. 사실 나는 비용과 품질 때문에 고려했던 부분이지만 실제로 아래와 같은 기준으로 적용하는게 타당하다고 느껴졌다. 단순한 성능이나 결과뿐만 아니라 유지보수 측면에서도 말이다.

입력이 완전히 예측 가능하다 → 전통 코드
분기점이 유한하다 → 워크플로우
문서 질의응답 중심이다 → RAG
동적 계획과 재조정이 필요하다 → 에이전트

⏹️운영과 거버넌스까지 생각해보기
실제로 구현이 다되었다면 이제 운영할 차례이다. 이 책의 마지막 장에서는 그 과정에서 생각해볼 것들을 정리해준다.

에이전트를 어떻게 검증하고 평가할 것이며, 운영환경에서는 어떤 지표를 볼 것인지에 대해 다룬다.
사실 대규모나 본격적인 업무가 아니라면 크게 신경쓰지 않아도 되는 부분이긴 하다.
그러나 토큰 사용량, 호출 성공/실패율 같은 부분들은 프로젝트의 성격과는 별개로 챙겨봐야겠다는 생각이 들었다.

다음으로 보안 문제 역시 한 꼭지 담고 있는데 프롬프트 인젝션, 가드레일 우회 같은 공격수단과 이를 방어하는 수단까지 설명해준다.

⏹️마무리하며 | 새로운 시대에 적응하기
기술서에 가까운 책이지만, 어떻게 보면 상당히 개념적이고 철학적인 내용을 담았다.
그 과정에서 많은 생각이 들었지만 하나의 질문으로 요약하면 아래와 같다.

" 우리는 어디까지 사고를 위임할 것인가?"

이에 대한 대답은 이 책을 보면서 어느 정도 정의할 수 있었다.
그래서 AI 에이전트를 개발하려는 개발자뿐만 아니라 입문하는 비개발직군에서도 충분히 읽어볼 가치가 있다고 생각한다.