XGBoost와 사이킷런을 활용한 그레이디언트 부스팅
데이터 과학자를 위한 머신러닝 모델 XGBoost를 배울 수 있는 도서입니다. 핸즈온 도서이며, 구글 코랩에서 실행도 가능하므로 직접 하나하나 실습하며 익힐 수 있습니다.
- 저자 : 코리 웨이드
- 번역 : 박해선
- 출간 : 2022-04-08
달마다 그렇듯 한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받았습니다.
캐글에서 XGBoost를 사용한 모델을 사용한 팀들이 압도적으로 우승을 차지하더라.
그래서 보니 성능도 좋아보이던데 우리도 써보면 어떨까?"
나는 캐글에 관심은 예전부터 있지만, 아직 대회에 참가할 수준은 아니다.
그래도 머신러닝/딥러닝 분야 기웃거리다 보면, 이책 저책에서 캐글에서 나온 대회나 데이터셋을 사용하는 경우도 많아서 언젠가는 한번 참가해볼 생각이다.
그래서 XGBoost라는게 이렇게 책 한권에서 다룰만한거리가 있으면 어떤부분에서 성능이 좋은지 궁금해서 읽어봤다.
일단은 그레디언트 부스팅을 개조한게 익스트림 그레디언트 부스팅, 즉 XGBoost 이다.
그리고 역시나 속도가 빠르다고 한다.
속도 빠르고 정확도 높으면 최고지 뭐.
근데 가끔 드는 생각이 , 이런 책이나 여러 예제에서 모델 설명할때 사용하는 예제를 보면 데이터가 상당히 잘 되어있다. MNIST만 봐도 책에서 시키는대로만 몇줄 적어도 성능이 잘 나온다.
이게 꿈과 희망을 주긴 하는데, 공부한 모델이나 알고리즘을 실제로 적용할 때 보면 바로 원하는 결과를 얻기가 힘들다.
모델이 예제 데이터셋에 편향된 것일수도 있겠지만, 데이터 전처리를 사용자가 예제 데이터수준까지는 아니더라도 훌륭하게 하지 못했을 수도 있고, 단순히 모델 복붙만 해서 문제 해결상황과는 다른 설계가 된 것일수도 있다.
그래서 모델의 추상적인 동작 방식만 보기보다는 수학적으로 깊이있게 이해해볼 필요가 있을 것 같다.
그런 의미에서 XGBoost가 성능이 좋다고 구대로 사용하지말고, 이렇게 토픽에 대해 자세하고 다양하게 설명하는 책을 참고하면 좋을 것 같다!
또 이 책이 맘에 드는게, 아까 표지에서도 말했듯 예제가 흔한 붓꽃인가 무슨 꽃이랑 레나 같은거나, MNIST 손글씨나 CIFAR, Fasion MNIST같은 이제 좀 지루해진 예제 말고, 진짜 과학자들이 쓰는거 같은 데이터셋을 쓴다.
행성의 공전시 항성의 밝기변화를 이용한 외계행성 데이터셋이라던가, 힉스 보손 찾기 같은거.
나중에 캐글에서 또 어떤 모델이나 알고리즘이 유행할지 모르겠지만, 좋은 장비가 생기고 실력이 늘어 도전하기까지에 읽어보기 좋은 책 같다!