한빛미디어

"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다."

이번 책은 성윤님이 번역하신 책이여서 특히나 당첨이 되기를 바란 책이였다

책 내용이 너무나 좋아서 번역을 하셨다고.. 내용은 이름 그대로 AI/LLM 에 대해 엔지니어링을 다루는 책

저자인 칩 후옌은 이전 책 '머신러닝 시스템 설계' 도 쓰셨는데 이 책도 언젠가 보면 좋겠다 라고 생각만 하고 있었다

먼저 책의 초반부를 보는데 좋았던 점은 이 책은 어떤 책이고 어떤 목적으로 활용하면 좋으며 어떤 개념들을 알고 있으면 더 좋을지, 어디를 중점적으로 보면 좋을지, 대상 독자와 학습 방법을 잘 설명해주었다는 점이다

물론 대부분의 개발책이 어떤 목적이고, 내용을 다루고, 대상 독자인지 서론에서 다루지만 이 책에서는 더 명확하게 짚어주었다는 점이 인상깊었다

맘 같아선 여유롭게 책에 집중해서 보고 싶지만... 다른 공부들, 봐야할 책들이 너무나 많기에 성윤님이 앞에 적어주신 내용대로 핵심적인 내용을 담고있는 특정 챕터들 위주로만 살펴보려 한다

옮긴이의 말에서 책의 핵심 내용들을 잘 정리해주셔서 참고하면 좋은 문단들을 가져와봤다

...
책은 총 10장으로 구성되어 있고, AI 애플리케이션의 정의와 파운데이션 모델을 활용해 쉽게 애플리케이션을 만들 수 있다는 이야기로 시작합니다.
이어서 파운데이션 모델의 핵심 개념을 정리하고 평가에 대해 자세히 다룹니다. 실무에서 가장 어려운 부분이 평가인데, 저자를 포함해 수많은 엔지니어의 경험을 토대로 평가 전반을 잘 정리했습니다. 
그 후 프롬프트 엔지니어링, RAG, 에이전트, 파인튜닝을 다루고, 데이터셋 엔지니어링, 추론 최적화, AI 아키텍처 설계, 사용자 피드백까지 이어집니다. 특히 좋았던 부분은 평가와 추론 최적화, AI 엔지니어링 아키텍처입니다.
거시적인 이해부터 시작해 실무에서도 도움이 될 내용이 있어 세 번 이상 읽었습니다.

이 책을 읽을 때, 독자 여러분이 겪고 있는 문제가 무엇인지 먼저 고민해보고 해당 고민을 기반으로 이 책을 읽길 권합니다.

...
각자 겪는 문제를 기준으로 책의 순서를 재구성해서 읽어도 괜찮습니다. 현재 겪고 있는 문제를 다루는 장이 있다면 그 부분부터 읽어도 분명 많은 도움이 될 것입니다.

만약 시간이 한정돼 있다면, 다음 장들을 꼭 읽기를 권합니다.

1장, 2장, 3장, 4장, 10장. 이 다섯 장은 특히 핵심적인 내용을 담고 있습니다.
이 분야를 하고 있다면 꼭 알아야 할 내용입니다. 3장과 4장은 평가를 다루는데, 평가가 매우 중요하지만, 많이들 간과하는 부분이므로 꼭 읽는 것을 추천합니다.
10장은 아키텍처의 발전 상황을 실용적으로 다루는데, 자신이 만들고 있는 서비스가 어떤 아키텍처를 따르고 있는지 보는 것도 의미가 있습니다.

...
전통적인 ML에서는 데이터 파이프라인 구축, 특성 공학, 모델 학습, A/B 테스트가 주요 고민이었다면, LLM에서는 프롬프트 엔지니어링, 컨텍스트 관리, 토큰 비용 최적화, 환각 대응 같은 새로운 문제들이 생겼습니다. 특히 평가 방법은 훨씬 까다로워졌습니다.
정확도나 F1 점수로 명확히 판단되던 것들이, LLM에서는 '이 답변이 정말 좋은 답변인가?' 라는 모호한 질문과 마주치게 됩니다.
 

해당 책은 코드를 직접 다루는 실습이나 예제는 없고 구현과 기술 숙달보다는 엔지니어링에 집중되어 있는 책이다

주로 LLM, LMM을 포함한 파운데이션 모델을 애플리케이션에 적용하는 방법을 다루고 있다

책이 답해줄 수 있는 질문에는 여러 가지가 있다

- 이 AI 애플리케이션을 왜 만들어야 할까? 어떻게 평가할까?
- 환각은 왜 발생하고 어떻게 탐지해서 완화할 수 있을까?
- RAG가 왜 효과 있을까? 사용 전략은?
- 에이전트란? 어떻게 만들고 평가해야 할까?
- 모델을 언제 파인튜닝 해야하고 하지 말아야할까?
- 애플리케이션을 지속적으로 개선하기 위한 피드백 루프는 어떻게 만들까?
...

이론서가 아니기에 어떤 개념이나 모델을 처음부터 학습시키는 방법을 설명하지 않는다

AI 애플리케이션을 만들면서 마주칠 수 있는 문제와 거기에 따른 해결책과 도구를 알려주는 방법론을 알려준다

물론 ML 관련 지식들을 알고 있다면 이 책을 더 적절하게 활용할 수 있을 것이다

• 샘플링, 결정론, 분포 등 확률론적 개념
• 지도학습, 자기 지도 학습, 로그 우도, 경사하강법, 역전파, 손실 함수, 하이퍼파라미터 튜닝 등 ML 개념
• 피드포워드, 순환, 트랜스포머를 포함한 다양한 신경망 아키텍쳐
• 정확도, F1 점수, 정밀도, 재현율, 코사인 유사도, 교차 엔트로피 같은 지표

위의 개념들을 내가 다 이해하고 설명할 수 있을까 생각해보면 아니요.. 안다고 착각하고 넘어갔던, 비어있는 부분들이 많이 느껴졌다

그 외에도 대상 독자로는 AI/ML 엔지니어, 데이터 사이언티스트, 엔지니어링 매니저, PM 등 기술 직군에서도 어떤 상황에 해당하면 도움이 될지도 알려주고 있다

학습 방법까지 세세하게 적기엔 내용이 너무 길어질 듯하니 직접 구매해서 읽는 걸 추천드린다