변성윤
2일 전
2.2K
안녕하세요. 칩 후옌의 신작『AI 엔지니어링』을 번역한 변성윤입니다. 번역을 진행하며 느낀 점들을 글로 남기고자 합니다.
저는 그의 전작인『머신러닝 시스템 설계』를 읽고 큰 감명을 받은 바 있습니다. 머신러닝 시스템 설계에 필요한 전반적인 내용을 체계적으로 정리되어 있어 제게도 큰 도움이 되었습니다.
이번에 출간된 『AI 엔지니어링』 역시 전작과 마찬가지로 AI 애플리케이션 개발의 전 과정을 폭넓게 다루고 있습니다. 저는 원서 중 가치가 있는 도서라고 생각하면 출판사에 직접 번역서 출간을 제안하는 방식으로 번역 작업을 진행하는데, 이 책은 특히 많은 분들이 꼭 읽어 보시면 좋겠다고 생각하며 제안하게 된 책입니다.
이번 번역 과정에서 저 또한 잘 알지 못했던 분야를 새롭게 확인할 수 있었고, 동시에 직접 AI 엔지니어링을 더 깊이 경험해 보고 싶다는 생각을 하게 되었습니다. 이 책이 독자 여러분께도 새로운 통찰과 도전의 계기가 되기를 바랍니다.
저는 개발 서적 가운데 전체적인 흐름을 잘 정리하면서 저자의 원칙이나 경험담을 담은 책을 좋아합니다. 그런 책을 읽다 보면 거시적으로 어떻게 사고해야 하는지 흐름을 잡을 수 있기 때문입니다. 『머신러닝 시스템 설계』, 『견고한 데이터 엔지니어링』등이 그러했고, 이번에 번역한 『AI 엔지니어링』 역시 전체적인 흐름을 잘 설명해 줍니다.
특정 프레임워크를 다루는 책은 시간이 흐르면 내용도 바꾸어야 합니다. 하지만 전체적인 흐름을 정리한 책은 시간이 지나도 여전히 도움이 되죠. 이 책을 통해 AI 엔지니어링의 큰 그림을 먼저 익히신 뒤, 자신이 해결하고 싶은 문제를 떠올려 보시기를 권합니다. 그 문제를 해결하는 데 AI가 필요한지 고민해 보고, 필요하다면 직접 구현하면서 필요한 부분을 더 학습해 나가시면 좋겠습니다.
이제 막 이 분야를 공부하려고 하는 분들은 먼저 이 책을 통해 전체적인 흐름을 잡은 후, AI 애플리케이션을 직접 만들어 보시는 것을 추천합니다. 단순히 책을 보거나 책을 정리하는 수준보다는 간단하게라도 결과물을 꼭 만들었으면 좋겠습니다. 결과물을 만드는 과정에서 직접 체화되고 깨달음이 생길 겁니다.
기존에 이 분야를 어느 정도 하고 계신 분들이라면 책을 읽으며 여러분들이 인지하지 못했던 내용 위주로 파악하는 것을 추천합니다. AI 분야가 넓고, 빠르게 발전하고 있어서 놓치고 있는 부분이 있을 수 있는데 이런 책을 통해 부족한 부분을 파악할 수 있을 겁니다. 저 또한 후자 쪽이라서 책을 계속 읽으며 부족했던 부분을 채울 수 있었습니다.
이 책을 번역하면서 가장 인상 깊었던 부분은 '완벽한 모델'이 아닌 'AI 애플리케이션을 만드는 전체적인 과정'에 초점이 맞춰져 있다는 점이었습니다. 특히 인상 깊었던 부분은 다음 세 가지입니다.
요즘 AI 프로젝트가 실패하는 이유 중 대표적인 것은 모델 성능이 아니라 제대로 된 평가 체계가 없기 때문에 발생합니다. 이 책은 3장과 4장에서 바로 이 평가를 다룹니다.
우선 3장에서는 평가에 대한 전반적인 접근 방법을 다룹니다. 파운데이션 모델은 하나의 입력에 여러 답변이 나올 수 있는 개방형 특성을 가지고 있어서 전통적인 ML과 비교하면 평가가 더 어렵다는 내용을 제시하며 언어 모델의 평가 지표를 설명합니다. 그 후엔 기능적 정확성과 참조 데이터의 유사도 측정을 통해 평가하는 방법을 제시합니다.
사람이 모든 것을 평가할 수 없기 때문에 AI 평가자(AI as a judge)를 사용하는 방법과 한계점을 제시합니다. 이처럼 어떤 방법을 소개할 때 한계점을 같이 제시해 주는 것은 실무에서 일어날 일을 예측하는 데 도움이 됩니다.
4장에선 AI 애플리케이션을 평가할 때 사용할 수 있는 기준들을 정의하고 계산하는 방법, 적합한 모델을 고르는 과정, 평가 파이프라인을 개발하는 방법을 살펴봅니다. 모델을 고르는 과정에서 자체 개발을 할 것인지, 상용 모델을 구매할 것인지에 대한 내용도 나오는데 실무에서 자주 하는 고민이라 독자분들이 많은 도움을 얻으실 수 있을 겁니다. 다음과 같이 모델 API 사용하기와 모델 자체 호스팅에 대한 장단점을 표로 비교한 내용도 있습니다.
AI 애플리케이션의 프로토타입을 만드는 것은 과거에 비해 많이 쉬워졌습니다. 그러나 이 프로토타입을 운영을 할 수준까지 끌어올리려면 여전히 많은 시행 착오가 필요합니다. 책의 마지막 장인 10장에서는 AI 엔지니어링 아키텍처를 간단한 부분부터 시작해 고도화하는 과정을 설명합니다. ‘어떤 순서로, 과정을 거쳐 AI 애플리케이션을 개발해야 할까?’라는 고민이 있는 분들이라면 꼭 보시길 바랍니다.
처음 시작은 질의가 주어지면 모델 API가 답변을 생성해 응답하는 단순한 형태입니다. 이후 과정에서 필요할 때마다 구성 요소를 추가합니다. 예를 들어 컨텍스트를 보강하고, 입력과 출력에서 여러분과 사용자를 보호하기 위해 가드레일을 도입하고, 모델 라우터와 게이트웨이 추가, 지연 시간을 줄이기 위해 캐시 추가, 애플리케이션에 맞는 동작 등을 소개합니다.
이런 형태보다 더 복잡해지면 디버깅이 어려워질 수 있는데, 이때 모니터링에 대한 관점을 소개합니다. 지표 선정, 로그와 트레이스를 보는 관점을 통해 데이터를 어떻게 분석해야 하는지 아이디어를 얻을 수 있습니다. 복잡한 케이스를 다루는 것보다 이런 모니터링 환경을 구축해서 앞으로 실패를 빠르게 파악할 수 있게 해주려는 저자의 노력이 돋보였습니다. 그리고 사용자의 피드백을 받을 수 있는 구조에 대해 설명하는데, 데이터가 중요한 요즘 시대에 꼭 필요한 내용이라 생각합니다.
이 책은 AI 애플리케이션을 만드는 다양한 방법을 설명하고, 적합한 해결책을 평가할 수 있는 질문들을 제시합니다.
• 이 AI 애플리케이션을 왜 만들어야 할까?
• 자신의 애플리케이션을 어떻게 평가할까? AI를 사용해 AI 출력을 평가할 수 있을까?
• 환각은 왜 발생할까? 환각을 어떻게 탐지하고 완화할 수 있을까?
• 프롬프트 엔지니어링의 모범 사례는 무엇일까?
• RAG는 왜 효과가 있을까? RAG를 수행하기 위한 전략은 무엇이 있을까?
• 에이전트란 무엇일까? 에이전트를 어떻게 만들고 평가해야 할까?
• 모델을 언제 파인튜닝해야 할까? 언제 파인튜닝하지 말아야 할까?
• 데이터는 얼마나 필요할까? 데이터 품질은 어떻게 검증해야 할까?
• 모델을 더 빠르고, 저렴하고, 안전하게 만들려면 어떻게 해야 할까?
• 애플리케이션을 지속적으로 개선하기 위한 피드백 루프는 어떻게 만들까?
이런 질문들을 통해 독자 여러분들의 상황에 맞는 선택을 할 수 있게 됩니다. 개인적으로 왜 이 AI 애플리케이션을 만들어야 할까? 부분에서 감명을 받았습니다. AI가 유행이라서 하는 것이 아니라 애플리케이션이 AI와 만나 어떤 가치를 발휘할 수 있는가를 꼭 고민해야 한다고 생각합니다. 이런 생각을 통해 여러분들의 서비스에 대한 메타인지가 늘어날 수 있을 겁니다.
『AI 엔지니어링』을 통해 여러분들이 AI에 대해 더 익숙해지고, 겪고 있는 고민에 도움이 되었으면 좋겠습니다. 감사합니다.
변성윤
AI를 통해 누구나 손쉽게 애플리케이션을 만들 수 있는 시대가 되었습니다. 하지만 신뢰할 수 있는 AI 제품을 만드는 일은 전혀 다른 과제입니다. 최고의 AI 전문가 칩 후옌이 스탠퍼드 강의와 엔비디아, 스노클 AI에서의 경험을 바탕으로 파운데이션 모델을 실제 서비스로 연결하는 체계적인 방법을 제시합니다.
『AI 엔지니어링』은 AI 애플리케이션을 안정적이고 효과적으로 설계하고 운영해야 하는 현업의 고민을 명쾌하게 풀어주는 AI 엔지니어링 실전 가이드입니다. 프롬프트 엔지니어링, RAG, 파인튜닝, 에이전트 설계 같은 최신 기법부터 모델 평가, 추론 최적화, 사용자 피드백을 통한 개선까지 AI 시스템 설계·운영의 전 과정을 현실적인 시각으로 풀어내며, 이론과 실무의 간극을 메워 줍니다.
특히 평가(Evaluation)를 핵심 주제로 다루어, “감”이 아닌 데이터 기반의 의사결정 원칙을 세울 수 있도록 돕습니다. 『머신러닝 시스템 설계』가 그랬듯, 이번 책 역시 빠르게 변하는 AI 생태계 속에서 흔들림 없는 기본기를 다져줄 든든한 교과서가 될 것입니다.
0
3 
댓글