moon***
2023-12-23

데이터 레이크를 넘어 데이터 메시로! 중앙 집중식 아키텍처 한계를 넘어선 ‘데이터 메시’ 데이터 메시 창시자가 소개하는 데이터 메시의 모든 것
이 책은 데이터 메시를 활용 및 도입하고 싶은 분들에게 추천해 드리고 싶은 책으로, 데이터 메시를 구현하기 위해서 필요한 데이터 기본부터 원리까지 설명을 해주고, 데이터 메시 도입시 필요한 프로세스, 기술 등이 담겨 있는 책입니다. 특히 기업과 실무에 적용할 수 있는 다양한 지식을 제공 받을 수 있다는 점이 매력적입니다. 데이터 분석가, 데이터 엔지니어, 데이터 사용자 모두에게 도움을 줄 수 있는 책입니다.
효과적인 데이터 활용을 위한 데이터 메시 도입 가이드
데이터 메시는 운영 데이터에서 얻은 교훈을 분석 데이터의 세계에도 적용하고 있습니다. 비즈니스의 각 도메인은 운영 데이터와 동일한 방식으로 API를 통해 분석 데이터를 퍼블리싱합니다. 이때 데이터를 일급 프로덕트처럼 취급하면서 데이터의 의미와 출처를 소비자에게 전달함으로써 데이터 소비자가 데이터 메시를 원활하게 사용할 수 있도록 합니다. 이러한 과정을 실현하려면 기업은 데이터 프로덕트를 퍼블리싱할 수 있는 플랫폼과 함께 연합된 거버넌스 구조를 제공해야 합니다. 데이터 메시의 바탕에는 비즈니스의 니즈가 변화함에 따라 플랫폼과 프로덕트가 신속하게 변화할 수 있을 만큼 기술적으로 우수해야 한다는 인식이 깔려 있습니다.
모든 중요한 혁신은 기존의 사고방식을 ‘깨뜨리면서’ 생겨난다.
토머스 S. 쿤
데이터 기반 기업들은 데이터에서 가치를 쉬고 빠르게 창출할 수 있도록, 기업마다 일정한 규칙에 맞춰 데이터를 소유하고 있습니다. 이러한 규칙으로 이루어진 데이터 구조를 데이터 아키텍처라고 합니다.
데이터 아키텍처 중 가장 먼저 도입된 개념은 데이터 웨어하우스입니다. 데이터 웨어하우스는 창고라는 이름처럼 정형 데이터가 나열되어 있는 아키텍처입니다. 그러나 정형 데이터만을 취급해서 음악, 문서, 동영상 파일 같은 비정형 데이터는 사용하기 어렵다는 단점이 있습니다. 이후 데이터 레이크가 나오면서 기존 데이터 웨어하우스의 문제점은 점차 개선되기 시작했습니다.
이 책에서 설명하는 데이터 메시는 차세대 데이터 아키텍처로 병목 현상을 해결하고, 앞으로 올 변화에 유연하게 대응할 수 있습니다. 기존 아키텍처의 관습은 데이터를 데이터 덩어리 하나로 통째로 운영하는 것입니다. 이러한 관습을 여러 조작으로(도메인별로) 분산시켜 운영하는 관습으로 전환하면서 데이터를 더 효율적으로 관리하는 것이 데이터 메시의 핵심입니다.
목차
1부 데이터 메시란
2부 왜 데이터 메시인가
3부 데이터 메시 아키텍처의 설계 방법
4부 데이터 프로덕트 아키텍처의 설계 방법
5부 새로운 시작
왜 데이터 메시로 변환해야 하는가?
조직이 성장함에 따라 빠르게 증가하는 복잡성
대규모 데이터로부터 가치 창출
데이터 메시는 탐색, 확장, 추출이라는 단계의 사이클로 이루어집니다.
책의 총평
이 책을 통해서 배울 수 있는 것은 데이터, 데이터 플랫폼, 데이터 메시에 대해 체계적이고 개념적으로 배울 수 있는 책으로, 데이터에 대해 관심이 있거나 데이터 프로덕트를 만드는 사람이라면 한번쯤은 읽어 볼만한 책입니다. 저 또한 개발자로 제품을 만들거나 프로젝트에 투입이 되어 진행시 많은 시행착오와 고민을 하게 되는데 이 책의 저자 또한 그런 부분을 짚어줍니다. 혼자의 힘으로는 할 수 있는게 별로 없지만 많은 이가 같은 생각(문화 또는 가치)을 가지고 진행하면 분명 좋은 프로덕트가 많이 나올거라 생각합니다. 변화를 두려워하지 않고 도전하는 많은 이들이 생겼으면 하는 바램입니다.
한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다.