kyungla***
2019-12-16

데이터 분석의 품질에 큰 영향을 미치는 데이터 전처리는 매우 중요한 작업이다. 전처리 공정을 전체적으로 이해하려면 프로그래밍 언어에 관한 이해뿐만 아니라 통계학이나 머신러닝에 관한 기반 지식이 필요하지만 이를 포괄적으로 설명하는 책은 없었다.
안녕하세요?책이 출간된다는 소식을 들으면서, 가장 기대한 책입니다. 데이터 전처리에 대한 목마름은 항상 있어왔어요.책에 대한 소개전에, 일단 저의 데이터 분석에 대한 여정을 먼저 말씀 드리는 것이 좋을 것 같네요.저는 데이터 분석을 R로 제일 먼저 시작하였어요. 데이터 분석가가 옆에 있어서, 문과에서 워드 클라우드를 하려면 무엇을 하는 것이 좋으냐는 질문에 R 을 하면 간단하게 할 수 있다는 이야기에 R 스튜디오를 설치하면서 데이터 분석을 시작하였어요. 그 당시에는 워드 클라우드가 목적이어서, 어려운 데이터 전처리는 모두 건너뛰고 정말 간단하게 빈도수 등이 나오는 것을 보면서 정말 놀라워 하였어요.스터디를 나가면서 파이썬이라는 것을 알게 되고, 머신러닝에서는 파이썬을 많이 사용한다는 것을 알게 되었습니다. 이때부터 많은 고민이 시작되었습니다. 파이썬이 R보다는 좀 더 프로그래밍적이었고, 코드도 더 복잡했거든요. 그래서 파이썬을 사용해야 하나 고민도 많아졌어요. 파이썬을 배우면서, R 을 찬양하는 이런 상태가 지속되었어요.그러다가 텐서플로우가 나오고 크롤링, 웹 서비스까지의 엔드투엔드 필요성을 느끼면서 파이썬으로 마음이 많이 움직였어요. 이때에도 시각화와 관련해서는 ggplot2의 미련을 버리지 못했어요. 파이썬의 시각화는 아직도 어려운 것 같아요.세월이 흘러, 크롤링한 데이터를 데이터베이스에서 관리하면서 mysql 도 다루게 되면서, sql 사용빈도도 늘어나게 되었습니다. 그러다 한빛미디어에서 나온 sql 에서 데이터 분석하는 책도 읽으면서, 데이터 전처리를 다양한 언어로 다양한 곳에서도 할 수 있다는 것을 알게 되었습니다.언젠가는 sql, R, python 에서 다루는 데이터 함수도 정리하고 싶었고, 성능도 비교도 하고 싶었습니다.그런데 더이상 진도가 나가지 않았습니다. 책들 간의 목차나 사용 목적을 이해해서 정확하게 사용할 함수를 찾아낸다는 것이 쉽지 않았습니다. 판다스를 배우면서, 파이썬 기본 함수와의 사용법조차 선택해서 사용해야 할지 갈수록 헤깔리고 해서, 그냥 판다스로 다 해결하는 것이 속 편할 것 같은 생각도 하였습니다.어느 정도 판다스가 눈에 들어오고 마음이 안정되자, 필요에 의해 데이터 전처리도 여러 언어를 사용해야 제가 필요한 곳에서 적재적소 해결하는 것이 좋지 않을까 생각하게 되었습니다.
오늘 "데이터 전처리 대전" 리뷰를 쓰는 지금의 제 생각은 되도록이면 sql 에서 빠르게 전처리를 하고, 특수한 경우 파이썬의 판다스를 사용하는 것이 좋다는 생각이 들었습니다. 시각화를 통한 문제 탐색과 보고는 power bi 를 활용할 생각이고요.
이 책은 전처리에 대한 궁금점을 상당부분 해소시켜준 고마운 책으로 남을 것 같습니다.책의 목차를 보면 우리가 다루는 전처리의 대부분을 서술한 것을 볼 수 있습니다.실제 현업에서는 더 복잡하게 고려할 사항들이 나타날 수 있지만, 책 수준에서 다루는 데이터 전처리는 이 정도면 충분하지 않을까 생각합니다.데이터 분석을 꿈꾸는 분들이라면 강력추천합니다.
책에 내용에 대한 후기는 간단합니다. 문제점을 간략하게 소개하고, sql, R, python 순으로 해결 방법을 서술합니다.
이 책의 좋은 점이 Not Awesome 이라고 하여, 우리가 무심코 사용하는 좀 느리거나 메모리 부족을 일으킬 수 있는 코드를 보여준다는 점입니다. 그리고 나서 바로 Awesome 이라고 하여 좋은 코드를 제시한다는 점입니다. 두 코드를 비교하면서 어느 쪽으로 방향을 잡아야 할지 보여준다는 점이 좋았습니다.
이 책의 단점으로는 개별 문제 해결이기 때문에 전과정을 한꺼번에 흘러가는 모습을 보지 못한다는 점입니다. 그래도 대부분 목차 순으로 데이터를 전처리를 하기 때문에 현실 속 문제도 책 순서대로 하면 깔끔한 데이터가 나올 것 같습니다.이 책을 읽기 전에는 sql, R, python 언어의 데이터 전처리 해결의 우열이 좀 가려지지 않을까 생각했는데, 책을 읽어나가면서 R 은 아예 줄을 치지 않고 그냥 아~ 이런 함수를 사용하는구나 느끼는 정도로 읽고 넘어가고 있었습니다. 책을 읽으면서 각각의 문제 해결에 최고 괜찮은 sql, R, python 함수가 있지만, 다른 것을 사용해도 좀 코드가 길고 어려워지지만, 새로 다른 언어를 배울 만큼의 정도는 아닌 것 같았습니다. 내가 사용하는 언어가 어느 부분은 부족할지는 몰라도 다른 언어도 같다는 위안을 삼을 수 있는 좋은 기회였던 것 같습니다.저처럼 마음이 왔다갔다 하시는 분이나, 자신의 언어에서 어떤 함수를 사용하는 것이 최선을 가져올지 확신이 드지 않는 초보 데이터 분석가라면 이 책으로 많을 것을 얻을 것이라고 생각합니다.데이터분석하시는 분들에게 추천드리는 책입니다. ^^