한빛미디어

이 책의 제목은 많은 것들을 함축하고 있다.

2015년 부터 AI를 공부하고 있지만 아직도 공부 중인 나로서는 이 책의 제목과 목차 그리고 책의 내용은 무척이나 흥미로웠다.

그 이유는 초반에 Machine Learning 기반의 분석과 수요 예측을 할 때는 솔직히 인프라 환경에 대한 중요성 보다는 데이터 분석 포커스에 맞는 데이터 수집 그리고 이를 기반으로 한 분석 프로젝트가 많았었다.

​

하지만 알파고 이후에 딥러닝이 활성화 되면서 부터는 딥러닝 모델 기반의 솔루션을 제작해야 하는 프로젝트를 수행하게 되었고, 데이터 보안과 맞물려 내부 인프라 장비를 통해 학습을 해야 하는 제약사항이 발생하게 되면서 인프라의 사양이 프로젝트 기간을 수립하는데 중요한 역할을 하게 되었다.

​

2023년 작금의 상황은 Large Scale Language Model의 시대 무엇보다 중요한 것은 빠르게 학습하여 빠르게 판단할 수 있는 환경을 누가 보유하고 선점하느냐가 가장 중요한 시기가 된 것 같다.

자체 LLM 모델 구축 시에도 무엇보다 선행인건 모델의 빠른 성능 테스트 후 모델의 향상 하지만 이제는 데이터 파이프라인과 데이터 수집은 선결조건인 시대가 되었다.

​

이에 LLMOPS라는 용어가 탄생하게 되었고 이는 언어 데이터의 메커니즘 및 모델링 메커니즘 기반하여 어떤 식으로 DownStream Task에 효과적으로 적용하여 활용할 수 있는지 까지 고려해야 하는 아키텍처를 구성해야 한다는 측면이라고 생각된다.

​

이에 AWS에서는 증강 데이터 기반 모델링을 언제 다시 수행해야 하는지에 대하여 오토파일럿을 사용한 AutoML기반의 성능 측정을 통해 재학습할지 여부를 결정하고 이를 비즈니스 로직단에서 활용시에 영향도 분석을 위한 트래킹 실험을 구성한다.

​

또한 다양한 LLM 오픈 소스 생태계와 연합하여 Foundation Model을 확보하고 이를 기반으로 어떻게 적용될 수 있을지에 대한 엔드포인트 기반 다양항 품질 모니터링을 활용할 수 있는 체계를 수립하였다.

​

이는 어찌보면 인프라 기반 서비스에 가장 큰 장점이며, 이를 기반으로 빠르게 활용해 보고 적용해 보면서 성능 메트릭을 고도화하는 방법론을 적용하기 위한 선결조건이 인프라라는 것을 의미한다.

​

이 책은 다양한 분석에 대한 활용을 AWS기반으로 어떻게 작동시키고 사용할 수 있는지에 대하여 전반적으로 다룬 책이다.

지금의 LLM의 열풍을 어떻게 효과적으로 AWS를 활용하여 꾸려갈 수 있는지에 대한 부분도 일부 담고 있다.

​

이에 데이터 분석을 AWS 클라우드 기반으로 시작하려는 분과 다양한 모델을 빠르게 적용하고, 다양한 데이터 분석 기반하여 모델을 고도화하려는 MLOPS 엔지니어들에게 초석을 다질 수 있는 책이라 생각한다.

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."