한빛미디어

“한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬받아 작성된 서평입니다.”

ChatGPT가 나온 이후로 생성형 AI를 여기저기서 써보면서 '이걸로 뭔가 만들어보고 싶다'는 생각이 들었습니다. API 호출 정도는 해봤는데, 막상 제대로 된 서비스를 만들려니 어디서부터 손대야 할지 감이 안 잡히더라고요. 그러던 중 《머신러닝 디자인 시스템》의 저자인 칩 후옌의 《AI 엔지니어링》이 출간된다는 소식을 듣고 정말로 읽고 싶었던 책이었는데, 드디어 읽게 되었네요.

책이 생각보다 두꺼워서 처음엔 좀 놀랐습니다. 500페이지가 넘는데, 각 장마다 정말 빼곡하게 내용이 들어있더라고요. 저자가 엔비디아와 같은 회사에서 일한 경험과 스탠퍼드 대학에서의 강의했던 경험을 다 녹여낸 느낌이었습니다. 책은 꼭 순서대로 읽을 필요 없이 필요한 부분부터 찾아 읽어도 되게 구성되어 있어서 좋았습니다.

책에서 가장 인상 깊었던 것은 AI 시스템을 받치는 기반 기술들을 체계적으로 다룬다는 점입니다.
'쓰레기를 넣으면, 쓰레기가 나온다'는 원칙이 단순해 보이지만, 실제로 데이터 수집부터 정제, 레이블링까지의 과정을 보니 왜 데이터 엔지니어링이 중요한지 체감할 수 있었습니다. 특히 합성 데이터 생성이나 데이터 품질 평가 같은 실무적인 부분이 유용했습니다.
그리고 모델 스케일링 문제도 흥미로웠습니다. 막연히 클수록 좋다고 생각했는데, 모델이 점점 커지면서 데이터가 부족해질 거라는 전망이나 AI 전력 소비가 환경 문제로 이어질 수 있다는 구체적인 수치를 보니 심각성이 느껴졌네요.
마지막 장에서는 AI 아키텍처 설계 부분에서는 단순한 API 호출에서 시작해서 라우팅, 게이트웨이, 캐시를 하나씩 추가하면서 시스템이 어떻게 복잡해지는지 보여줍니다. 실제 애플리케이션 구축 과정을 이해할 수 있었습니다.

이론적 기반을 다룬 뒤엔 실무에서 바로 써먹을 수 있는 기술들로 넘어가는데, 프롬프트 엔지니어링 장이 특히 실용적이었습니다. 정보 추출과 SQL 인젝션과 유사한 프롬프트 공격을 다루며 보안의 중요성을 강조하는 점이 좋았습니다.
그리고 요즘 대세인 RAG(검색 증강 생성)와 에이전트 구축 부분은 여러 번 읽었습니다. 'RAG가 뭐다'는 식의 정의가 아니라, 실제로 어떻게 설계하고 어떤 점을 주의해야 하는지 구체적으로 나와 있어서 나중에 실무에서 참고하기 좋을 것 같습니다. 검색 품질을 높이는 방법과 같은 실전 노하우가 담겨 있었습니다.

"많은 AI 과제는 본질적으로 시스템 문제다. 

그래서 이를 해결하려면 종종 한 걸음 물러서서 시스템 전체적으로 바라보는 것이 필요하다"
《AI 엔지니어링》, 566p

아쉬운 점도 있긴 했습니다. 평가 방법론(3장)과 파인 튜닝(7장)은 솔직히 한 번에 다 이해하기 어려웠습니다. 기술적으로 꽤 깊이 들어가는 내용이었는데, 다행히 《밑바닥부터 만들면서 배우는 LLM》을 같이 읽고 있어서 이해할 수 있었습니다. 반면에 AI/ML 기초가 전혀 없다면 이 부분은 정말로 어렵게 느껴질 것 같네요.

또한 코드 예제가 거의 없다는 점도 조금 아쉬웠네요. 저자가 빠르게 변하는 기술의 구현보다는 개념에 집중한 덕분에 튜토리얼을 따라 하며 결과물을 만들고 싶은 분에겐 답답할 수 있지만, 반대로 유행이 지나도 참고할 수 있는 원칙과 설계를 배우고 싶은 분에겐 오히려 장점이라고 생각합니다. 구현은 블로그나 문서로 배우고, 이 책은 '왜 이렇게 만들어야 하는가'를 이해하는 용도로 쓰면 맞을 것 같습니다. 《AI 엔지니어링》은 API 사용 경험이 있고 본격적인 AI 서비스 구축을 원하는 개발자에게 적합한 책이었습니다. 한 번에 다 읽기보단, 필요할 때마다 꺼내서 참고하는 레퍼런스로 쓰면 좋을 듯합니다.