한빛미디어

실무와 가장 가까운 AI 서비스 가이드

우리가 기술서를 읽는 목적은 비즈니스 서비스(제품)를 만들기 위한 것이라고 생각한다. 제품을 만들기 위해서는 전통적으로 먼저 이론을 익히고 제품을 만드는 방법을 생각할 수 있다. 이 방법은 몇 가지 단점이 있다. 먼저 이론에 지쳐 실무까지 다다르지 못할 수 있으며, 실무에 필요 없는 부분까지 공부할 경우가 생긴다. 최근에는 'Learning by Doing'방식으로 실무에 필요한 서비스를 먼저 구현하여 흥미를 느끼고, 이후 부족한 부분을 전문 서적이나 AI로 보충하는 방법이다. 이 책은 실무와 가장 가깝고 입문서로 기초 지식을 익혔다면 그 다음 읽을 책으로 제격이다.

[선수 지식]

- 파이썬 기초

- LLM 서비스 경험

- REST API 개념, Frontend-Backend 개념

[추천 독자]

- 생성형 AI를 활용하여 서비스를 만들고 싶은 개발자

- 오픈 모델을 사용하여 AI 서비스를 개발하고 싶은 개발자

- 입문서를 통해 생성형 AI의 이론적인 배경을 통해 한 단계 업그레이드 하고 싶은 분

[키워드]

#LLM #GPT #랭체인 #Langchain #Streamlit #RAG #Chroma #FAISS #Llama #멀티모달 #LLaVA #랭그래프 #LCEL #VSCode #OpenAI #PlayGround #Miniconda #랭스미스 #FastAPI #React #BM25 #LangchainHub #프롬프트엔지니어링 #CLIP

[특징]

실무에 가장 가까고 완성도가 높은 예시

cli, Streamlit, FastAPI + React를 활용한 앱 구성

웹페이지, pdf, text 문서를 활용한 예시

FAISS, Chroma 벡터 DB 사용 예시

OpenAI와 올라마 기반의 오픈 모델 사용 예시

하이브리드 검색 시스템을 위한 고급 예제

멀티모달, AI 에이전트 예시

CrewAI를 활용한 다중 에이전트 예시

[책의 구성]

이 책은 전체 8개 PART, 22개 장으로 구성되어 있다.

Part 01 "랭체인 시작하기"는 총 3개의 장으로 책에서 실습하게 될 주요 서비스의 설명과 기술스택 설명, 랭체인과 OpenAI의 서비스 설명 및 키발급, 파이썬 개발 환경을 구축하고 랭체인의 LCEL을 사용하여 기본 프로그램을 작성한다.

Part 02 "랭체인 기초 실습"는 총 3개의 장으로 cli 환경에서 "음식, 식당, 숙박 리뷰 평가 AI 만들기"를 실습하고, Streamlit으로 웹에서 구동되는 "인공지능 시인 만들기" 작성한 후 Streamlit Community Cloud에 배포한다. 마지막으로 "다국어 이메일 생성기 만들기"를 Ollama를 사용하여 Streamlit 앱으로 구성한다.

Part 03 "문서 임베딩을 활용한 Q&A 서비스"는 전체 2개의 장으로 "ChatPDF 만들기"는 Streamlit 환경에서 PDF 문서를 업로드하여 Chroma 벡터 저장소에 저장하고 검색 결과를 스트리밍할 수 있는 앱을 만들고, "현진건 작가님 봇 만들기"는 OpenAI의 플레이그라운드와 연동하여 멀티턴이 되는 Streamlit 앱을 만든다.

Part 04 "RAG 기법을 활용한 유사성 검색 서비스"는 전체 3개의 장으로 FAISS 벡터 DB를 사용하여 RAG 기반 대규모 텍스트 검색 서비스를 cli로 구현한다.

Part 05 "고급 RAG 기법을 활용한 뉴스 검색 서비스"는 전체 2개의 장으로 네이버 뉴스 기사를 대상으로 사용자가 입력한 질문을 다양한 관점에서 여러 개의 검색 쿼리를 생성한 후 유사도와 BM25 알고리즘을 사용하여 하이브리드로 검색한 결과에서 중복된 결과를 제외한 후 가장 관련성이 높은 문서로 리랭킹하는 방법을 배운다. 마지막에는 Streamlit로 구성하여 서비스한다.

Part 06 "멀티모달 데이터를 활용한 통합형 서비스"는 전체 3개의 장으로 멀티모달 RAG 아키텍처를 설명하고, 문서에서 이미지를 추출하는 방법, Fashionpedia의 이미지를 임베딩하여 "이미지 기반 스타일링 어시스턴트" 서비스를 만드는 방법을 설명한다. 마지막에는 생성형 AI 서비스를 FastAPI로 백엔드를 구성한 후 Streamlit으로 호출하는 통합형 서비스를 만든다. 각각의 서비스는 상용 모델과 오픈소스 모델로 구성할 수 잇다.

Part 07 "랭그래프와 Agentic RAG를 활용한 에이전트"는 전체 3개의 장으로 Tool을 호출하여 AI 에이전트를 만드는 방법을 설명한 후, 랭그래프로 "지능형 정보 검색 시스템 만들기"를 Agentic RAG로 실습한다.

Part 08 "CrewAI를 활용한 협업형 에이전트"는 전체 3개의 장으로 CrewAI 프레임워크를 사용하여 다중 에이전트로 블로그를 작성하는 예제를 단계적으로 실습하여 최종으로 FastAPI + CrewAI 백엔드와 리액트 프론트엔드를 구성하여 통합 서비스를 작성한다.

각 장은 먼저 학습 목표와 핵심 키워드를 제시하고, 실습에 사용하는 기술을 개념적으로 설명한다. 실습은 작은 예제부터 단계적으로 복잡도를 높이며, 소스 설명은 라이브러리(패키지)부터 라인 단위나 함수 단위로 자세히 설명하고, 오류가 예상되는 부분은 사전에 미리 알려준다. 실습은 용도에 맞게 파이썬 파일이나 주피터 노트북을 적절히 사용하며, 사용하는 LLM은 OpenAI와 오픈소스 모델을 모두 사용할 수 있도록 안내한다. 소스는 cli환경, Streamlit(Backend + Frontend), FastAPI(Backend) + React(Frontend)로 구성되어 있다. 실습이 완료되면 추가 학습법이나 실습 내용을 응용하는 방법을 알려주며 마무리한다.

[소감]

이 책의 소스를 모두 손코딩하면서 "Learning by Doing"방식의 학습법이 우수한 이유를 알게 되었다. 랭체인으로 만드는 생성형 AI 기반 서비스는 개념만 제대로 이해한다면 서비스를 만드는 과정은 생각보다 어렵지 않고 러닝 커브도 높지 않았다. 책에서 다루는 예제는 최신 랭체인 버전인 0.3으로 진행하며, 랭체인으로 만들 수 있는 20여개의 프로젝트에서 다루는 기술 스택은 OpenAI, Ollama(Llama, LLaVA), Streamlit, Streamlit Cloud, FastAPI, React, Langgraph, Langchain hub, Langsmith, Langserve, Chroma, FAISS 등 실무에서 사용할 수 있는 내용을 다루고 있다. 기술 트렌드 측면에서는 Naive RAG, Agentic RAG, 멀티모달 RAG, AI Agent(Langgraph, CrewAI)를 사용하며, 프롬프트 면에서는 리뷰 평가, 다국어 이메일 생성, 번역, 질문/답변 생성, 뉴스 요약, 이미지 추천, 시/소설 생성, 다중 에이전트 블로그 작성, 관련성 평가를 다룬다.