메뉴 바로가기 검색 및 카테고리 바로가기

한빛미디어

독자리뷰

BERT의 정석을 톺아보기

drv***

|

2022-06-26

구글 BERT의 정석

이 책은 BERT의 기본 개념부터 다양한 변형 모델, 응용 사례까지 한 권으로 담은 실무 지침서다. 기계번역, 챗봇, 정보 검색 등 다양한 사례를 중심으로 BERT의 양방향을 활용하여 최소한의 데이터로 AI를 구현하는 방법을 배울 수 있다.

  • 저자 : 수다르산 라비찬디란
  • 번역 : 전희원 , 정승환 , 김형준
  • 출간 : 2021-11-03

최근 트랜스포머의 양방향 인코더 표현 기술(BERT)이 자연어 처리 영역뿐만 아니라 영상처리와 같은 다른 도메인으로 기술 적용이 확산되고 있다. 이와 같은 추세를 반영하듯, BERT라는 주제는 딥러닝의 특정 기능 분야에 한정되는 주제임에도 불구하고 [파이썬 텍스트 마이닝 완벽 가이드(2022.2)], [한국어 임베딩(2019.9)] 같이 BERT를 부분적으로 다루는 도서나 [Do it! BERT와 GPT로 배우는 자연어 처리(2021.12)]와 같이 본 도서와 겹치는 주제를 거의 비슷한 콘셉트로로 다루고 있는 도서를 모두 찾아볼 수 있다.

이 책의 원서가 출간되기 전에는 BERT만 다루는 책이 없었는데, BERT의 비중을 생각했을 때, 이를 알기 위해 논문을 보거나 자연어 처리 관련 도서 끝부분에 잠깐 언급된 내용으로 만족해야 했음을 생각하면 이 책의 출간이 매우 의미 있음을 알 수 있다.

[구글 BRRT의 정석]은 2021.11 초판 발행되어 2022.1 2쇄가 발행되었다. 한국의 IT서적 판매 시장에서 전문적이고 주제의 폭이 매우 좁다는 것을 고려할 때 [구글 BERT의 정석]이 받고 있는 기대감이 그만큼 크다는 것을 알 수 있다. 유사한 도서 중 트랜스포머만을 집중해서 빠르게 내용을 접하고 정리하고자 한다면 이 책은 타 도서에 비해 가장 적당한 예시로 가장 이해하기 쉽게 설명하고 있으며 따라서 좋은 선택을 한 것이라 할 수 있다. 책 초반에 트랜스포머에 대한 설명을 할 때 인코더의 구성을 풀어 단계별로 알려주는 부분을 보면 마치 가장 친절한 멘토를 옆에 둔 것 같은 느낌을 받을 정도로 친절하게 설명해 줌을 알 수 있다.

역자들, 특히 전희원님의 경우 한국어와 관련된 여러 오픈소스 활동과 기술 문서를 통해 수년간 전문성을 인정받은 분이라 번역의 질도 매우 우수하고 기술을 정확하게 파악할 수 있도록 번역이 되었다.

 

파트 1에서는 트랜스포머의 기본 개념을 다루고, 동작 방식 과정에서 값이 부여된 행렬 상태나 관련 그림을 곁들여 쉽게 설명한 뒤 학습된 모델을 파인튜닝하고 사용하는 방법을 설명한다. 파트 2에서는 파생모델과 적은 리소스에서 성능을 내기 위한 지식 증류 기반 모델을 다루고, 파트 3에서는 기타 BERT를 적용하고 역자가 저술한 한국어 모델에 대하여 다루고 있다.

 

BERT의 동작원리를 궁금해하는 독자에게는 거기에 더하여 활용 방법에 대한 안내를 해주고, 실제 업무에 적용하기 위해 모색하는 독자에게는 BERT를 알기 위해 선행 파악해야 하는 공부의 순서에 대한 걱정 없이 책의 순서대로 유용하게 지식을 정리할 수 있다. 또한 각 장의 연습문제는 이해한 개념 중 중요한 것을 다시한번 짚어준다. 다른 연습문제가 있는 도서와 다른점은 연습문제의 정답은 부록(Appendix)를 통해 제공해 준다는 것인데, 이를 통해 내용을 정확하게 복기할 수 있도록 도와준다.

 

이 책의 서문(이 책에 대하여)에는 필요한 독자의 선행지식, 이 책을 통해 얻을 수 있는 내용, 책을 통해 얻게 되는 성과를 명시적으로 기술되어 있다.

 

  * 독자의 선행지식 : NLP 개념과 딥러닝에 대한 기본적인 이해가 필요

  * 도서의 내용

    - BERT에 대한 이해를 기반으로 아키텍처를 살펴보고, 사전학습되는 방법, 파인 튜닝을 통한 다운스트림 태스크에 활용하는 방법 알아봄

- 변형 소개 : ALBERT, RoBERTa, ELECTRA, SpanBERT

- 지식 증류 기반 변형 : DistilBERT, TinyBERT

- M_BERT, XLM, XLM-R 설명

- sentence-BERT

- BioBERT, ClinicalBERT

- VideoBERT

    - 역자가 저술한 KoBERT, KoGPT2, KoBART

  * 얻을 수 있는 것 : BERT 및 그 변형 모델을 활용해 여러 자연어 처리 태스크를 수행하는 데 부담이 없어어짐

  

이 책은 예제를 따라 하기가 쉽게 되어 있다. GitHub의 저장소 코드를 colab을 통해 확인하고 실행해 볼 수 있으며, 예제에도 풍부한 주석이 있기 때문에 책을 참고하여 개념을 익히고 코드를 실습하고 이해하는데 문제가 없다. 이 책은 자연어 처리 분야의 최신 솔루션에 대한 훌륭한 입문서다. 다만 서문에서 언급되었듯 기반 지식이 필요하며 적어도 인터넷에 공개된 딥러닝 관련 내용은 선행학습이 되어야 읽을 수 있다. 딥러닝 혹은 자연어 처리에 대한 기반 지식이 없다면 본 도서를 구입하기 전 다른 자연어 처리 관련 입문 도서나 아래 인터넷에 공개된 강좌 학습 등을 선행하길 추천한다.

 

딥 러닝을 이용한 자연어 처리 입문 - https://wikidocs.net/book/2155

 

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

닫기

해당 상품을 장바구니에 담았습니다.이미 장바구니에 추가된 상품입니다.
장바구니로 이동하시겠습니까?