쪽수
ISBN
브랜드
토크나이저부터 추론 모델까지,
처음부터 끝까지 구현하며 배우는 LLM의 원리
챗GPT 같은 대규모 언어 모델(LLM)이 일상에 깊이 들어온 지금, 그 작동 원리를 직접 구현해 본 사람은 많지 않습니다. 『밑바닥부터 시작하는 딥러닝』 여섯 번째 편은 토크나이저, 모델, 학습이라는 LLM의 핵심 세 단계를 완성된 라이브러리에 기대지 않고 밑바닥부터 구현합니다. CodeBot, StoryBot, WebBot 세 프로젝트를 거치며 BPE 토크나이저, 트랜스포머 어텐션, 사전 학습부터 SFT·GRPO·DPO 강화 학습까지 LLM 개발의 전 과정을 코드로 직접 재현합니다. 파이썬, 파이토치 기초와 딥러닝에 대한 기본 이해가 있다면, 이 책과 함께 나만의 LLM을 밑바닥부터 키워보세요.
출판사 리뷰
『밑바닥부터 시작하는 딥러닝』 시리즈 최신작,
블랙박스 속 LLM의 구조를 완전한 코드로 지배하다
딥러닝의 기초부터 프레임워크 개발까지 수많은 엔지니어의 뼈대가 되어 준 『밑바닥부터 시작하는 딥러닝』 시리즈가 여섯 번째 이야기로 돌아왔습니다. 전 세계를 뒤흔든 LLM의 시대, 글로벌 빅테크가 제공하는 API를 단순히 가져다 쓰는 개발자와 언어 모델의 내부 메커니즘을 완벽히 통제하는 엔지니어의 차이는 결국 ‘바닥부터 쌓아 올린 기본기’에서 나뉩니다. 이 책은 외부 프레임워크나 기존 토크나이저 라이브러리에 일절 의존하지 않고, 순수 파이썬과 파이토치만으로 BPE 토크나이저 구축부터 디코더 전용 트랜스포머 아키텍처, SFT(지도 파인튜닝) 그리고 최신 GRPO/DPO 강화 학습까지 LLM의 핵심 본질을 한 땀 한 땀 직접 코드로 구현하며 파헤칩니다.
소형 파이썬 코드 생성 챗봇(CodeBot)을 시작으로 창의적인 이야기꾼(StoryBot) 그리고 웹 크롤링 기반의 대규모 모델(WebBot)로 확장되는 단계별 로드맵을 따라가다 보면, 추상적인 수식과 논문 속에 가려져 있던 LLM의 블랙박스가 명쾌하게 해제되는 기술적 쾌감을 경험하게 됩니다. RoPE, SwiGLU, KV 캐시, FlashAttention 등 현대적 GPT 최적화 기법은 물론, DeepSeek-R1이 증명한 최신 추론 모델의 핵심인 GRPO 강화 학습까지 내 손으로 직접 완성해 보세요. ‘믿고 보는 밑시딥’이라는 명성에 걸맞게, API 명세서 뒤에 숨은 블랙박스를 넘어 앞서가는 AI 엔지니어로 도약하기 위한 가장 확실하고 강력한 징검다리가 되어 줄 것입니다.
목차
CHAPTER 0 LLM이 만들어지기까지
0.1 구성 요소
0.2 LLM의 사전 학습
0.3 LLM의 사후 학습
[PART I 기본편: CodeBot 만들기]
I.1 개발 흐름
I.2 사전 학습
I.3 SFT(지도 파인튜닝)
I.4 강화 학습
CHAPTER 1 토크나이저 (기본편)
1.1 문자 단위 토큰화
1.2 바이트 단위 토큰화
1.3 BPE의 학습 알고리즘
1.4 BPE를 적용한 인코딩과 디코딩
1.5 특수 토큰 대응
1.6 사전 토큰화
1.7 TinyCodes를 이용한 학습
1.8 토크나이저 평가
1.9 TinyCodes 인코딩
1.10 정리
CHAPTER 2 모델 (기본편)
2.1 어텐션 기본 원리
2.2 어텐션의 수식과 구현
2.3 어텐션 스케일링
2.4 트랜스포머 기본 구조
2.5 위치 인코딩
2.6 어텐션 마스크
2.7 밸류 변환 행렬 효율 개선
2.8 멀티헤드 어텐션
2.9 트랜스포머 블록
2.10 GPT-2
2.11 정리
CHAPTER 3 학습 (기본편)
3.1 사전 학습
3.2 텍스트 생성
3.3 SFT(지도 파인튜닝)
3.4 SFT 모델과 나누는 대화
3.5 강화 학습과 언어 모델
3.6 정책 경사법
3.7 베이스라인
3.8 오프-정책과 클리핑
3.9 GRPO
3.10 정리
[PART II 응용편: StoryBot 만들기]
II.1 데이터셋
II.2 개발 흐름
CHAPTER 4 토크나이저 (응용편)
4.1 BPE 학습 개선 ①: 중복 제거
4.2 BPE 학습 개선 ②: 부분 갱신
4.3 BPE 학습 개선 ③: 분할 처리
4.4 BPE 학습 개선 ④: 병렬화
4.5 토크나이저 평가
4.6 BPE 인코딩 개선 ①: 고속 병합
4.7 BPE 인코딩 개선 ②: 대규모 데이터 처리
4.8 정리
CHAPTER 5 모델 (응용편)
5.1 RoPE
5.2 SwiGLU
5.3 RMSNorm과 그 밖의 개선
5.4 개선된 GPT 구현
5.5 KV 캐시
5.6 정리
CHAPTER 6 학습 (응용편)
6.1 AdamW의 원리
6.2 AdamW 구현
6.3 학습률 스케줄
6.4 혼합 정밀도
6.5 사전 학습 (개선 버전)
6.6 텍스트 생성과 모델 평가
6.7 RLHF와 DPO
6.8 DPO 구현
6.9 정리
[PART III 도전편: WebBot 만들기]
III.1 데이터셋
III.2 개발 흐름
CHAPTER 7 토크나이저 (도전편)
7.1 WebBot의 토크나이저
7.2 병목 지점 찾기
7.3 러스트와 C++를 이용한 속도 개선
7.4 특수 토큰 추가
7.5 다른 토크나이저
7.6 토크나이저를 사용하지 않는 접근법
7.7 정리
CHAPTER 8 모델 (도전편)
8.1 모델 크기 선택
8.2 FlashAttention
8.3 Grouped-Query Attention(GQA)
8.4 전문가 혼합(MoE)
8.5 torch.compile
8.6 컨텍스트 길이 확장
8.7 정리
CHAPTER 9 학습 (도전편)
9.1 기울기 누적
9.2 기울기 체크포인트
9.3 분산 학습
9.4 ZeRO
9.5 Muon 옵티마이저
9.6 Weights & Biases
9.7 WebBot 학습과 생성 결과
9.8 정리
APPENDIX A UTF-8 인코딩의 원리
APPENDIX B 어텐션의 스케일링 효과 증명
APPENDIX C 베이스라인을 적용한 정책 경사 추정량의 불편성 증명
APPENDIX D Adam의 편향 보정
APPENDIX E DPO의 최적해 유도
리뷰
35,000원
10%
31,500원