한빛미디어

한빛미디어 서평단 <나는 리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다.



AI 엔지니어링은 파운데이션 모델을 기반으로 애플리케이션을 만드는 과정을 의미하는데, 전통적인 ML 엔지니어링이 모델 자체를 개발하는 것이라면, AI 엔지니어링은 이미 존재하는 모델을 활용한다. 더 강력한 파운데이션 모델을 이용할 수 있도록 하기 위해서는 AI 엔지니어링의 빠른 성장을 위한 3가지 요건이 필요하다. 다양한 분야에 AI를 활용할 수 있는 범용 AI 능력, 전세계적으로 AI 투자 증가, AI 애플리케이션 개발에 대한 낮아진 진입 장벽이 그것이다.

파운데이션 모델을 만들기 위해서는 대기업, 정부, 자금이 풍부한 스타트업만이 가능하다. 하지만, 파운데이션 모델을 통해 애플리케이션을 개발하는 것은 누구나 가능하며, 개발할 수 있는 잠재적 애플리케이션 수 또한 무궁무진하다.

다만 AI가 많이 사용될수록 그에 따른 부작용은 증가했다. AI 애플리케이션을 개발하는데 있어 가장 큰 어려움은 평가가 어렵다는 점이다. 또한, 파운데이션 모델은 개방형이어서 평가가 어렵기 때문에, 책에서 소개하는 사례들을 통해 각 모델들을 어떤 방식으로 평가할지 배운다면 도움이 될 것이다.  예를 들어, AI 평가자를 통해 모델을 평가한다고 해보자. AI 평가자는 확률적 특성 때문에 평가자 역할을 하기엔 신뢰성이 떨어진다고 느껴질 수 있다. 평가 결과가 일관되지 않고, 기준이 모호하거나, 각 기준마다 프롬프트 개수를 늘리면 비용이 증가하게 되며, AI 평가자 또한 편향을 가질 수 있다. 이를 해결하기 위해, 책에서는 AI 시스템 자체를 평가하는 여러가지 방법들을 소개한다. 실제 모델 평가에서 이 책의 4장 파트를 활용해볼 수 있을 것이다. 

이후, 프롬프트 엔지니어링, RAG와 에이전트, 파인튜닝, 데이터셋 엔지니어링, 추론 최적화 등 AI 엔지니어링의 기초부터 심화까지 이 책을 통해 한권에 정리할 수 있었다. AI 엔지니어로 신입 면접을 준비하거나, 지식에 빈곳이 있다고 느낀다면 내용을 천천히 정리하면서 성공적인 엔지니어로 거듭날 수 있을 것이다. 컴퓨터 구조나 네트워크 이론을 거의 몰라도 책에서 매우 자세히 AI 엔지니어링 이론을 하나의 교과서처럼 소개하고 있기 때문에 엔지니어링 수업을 듣는 것보다도, 이 책을 읽어보기를 추천하는 바이다.

#ai 엔지니어링 #oreilly #한빛미디어 #ai 엔지니어 #면접 #파인튜닝 #프롬프트 엔지니어링 #rag #agent #데이터셋엔지니어링