독자리뷰
chatgpt를 이해하려면 제일 먼저 읽어야 할 책
dldmsru***
2023-03-18
트랜스포머를 활용한 자연어 처리
챗GPT처럼 자연어를 찰떡같이 알아듣는 트랜스포머 완벽 해부
- 저자 : 루이스 턴스톨 , 레안드로 폰 베라 , 토마스 울프
- 번역 : 박해선
- 출간 : 2022-11-30
오늘 서평을 써 볼 책은 그 유명한 "트랜스포머를 활용한 자연어 처리" 다. 사실상 자연어 딥러닝의 끝판왕이라고 볼 수 있는 이 책은 사내에서도 언급이 되었었는데, 실제로 책을 들여다보니 정말 좋았다. 실제로 huggingface를 어떻게 써서 어떤 모델을 만들 수 있고, 어떤 task 에 적용해볼 수 있는지 자세히 코드가 구성되어 있어 이 책만 보고도 자연어 모델을 구성하는데 큰 문제가 없을 거라고 생각되었다. 실제로 감성분석을 classification 후 feature 를 추출하여 저차원으로 projection 해서 시각화 한 부분도 있었다. 실제로 한 눈에 결과를 보여주려면 단순한 수치 값보다 더 중요한 게 시각화 그래프인데, 해당 부분에 대한 수요도 잘 반영한 실무자 중심의 책이라고 할 수 있었다.
요즘에는 tensorflow 보다는 pytorch 위주로 코드가 구성되고 있는데, (실제로 해당 서적에서도 pytorch 중심으로 다루고 있음) tensorflow 코드 까지 추가 참고/비교하여 다양성을 추가하였다. 2023년도 최고의 화두인 ChatGPT의 주요 구성 요소인 프롬프트 러닝, in-context learning, few-shot learning 에 대해서도 다루고 있다. 만약 ChatGPT를 구성하거나 원리에 대해 이해하고자 하려는 분들에게는 필독서, 기본서라고 할 수 있겠다. 기본적인 모델링 이 외에도 경량화나 future work까지 제시하여 해당 책을 읽은 후에 어떤 공부를 추가로 해야할 지에 대한 방향까지 제시해주는 좋은 책이다. 자연어 모델링하면 이제는 정말 빠질 수 없는 huggingface 를 활용하는 법이 궁금하다면 꼭 읽어보고 계속 들여다보아야 하는 책이 아닐 수 없다.
※ "한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다." 또한 , 이 글은 저의 주관적인 생각이 담겼습니다.
