한빛미디어

회사에서 현재 OpenAI로 여러가지 실험적인 개발을 하고 있다. 평소에는 웹 프레임워크를 사용한 개발만 해왔기에 이런 개발은 생소했다. 그러나 최신 트렌드이기도 하고 실제로 서비스가 가능하다는 확신이 있어서 열심히 참여하고 있고 어느정도 개발이 진행된 상태이다. 현재는 다른 개발자가 마찬가지로 파인튜닝을 이모저모 테스트해보고 있어서 그 다음 단계를 진행하지 못한 상태인데 이를 기회로 최근에 나온 신간인 'GPT4를 활용한 인공지능 앱 개발'이라는 기술 서적으로 회사에서 개인적인 스터디를 했다.

이 책에 나온 예제는 모두 직접 입력해서 테스트해보았다. 기본적으로 대부분의 예제는 OpenAI의 플레이그라운드(platform.openai.com)을 이용하면 이미 인터페이스가 갖춰진 상황에서 테스트해볼 수 있다. 그러나 코드를 직접 테스트해보고 싶다면 IDE나 그 비슷한 것이 필요하다. 나는 구글 Colab을 사용했다. 굳이 가상환경을 만들고 프로젝트를 생성하기 귀찮았기 때문이다. 그래서 다른 분들도 구글 Colab을 사용해서 실습을 해보시기를 추천드린다. 실행에 전혀 문제가 없었고 다음에 접속해도 코드가 저장되어서 공유도 가능하며 재실행도 용이했다.

책 전반부에서는 LLM(Large Language Model) 개념, 원리, GPT 모델별 설명 및 종류, 역사, 사례가 나와있어 세간에 떠들썩한 GPT와 LLM이 무엇인지 기본적인 공부를 빠르게 학습할 수 있다. 칸 아카데미라든지, 듀오링고, 모건스탠리에서 GPT를 활용해서 최근에 다양한 서비스를 하고 있다는 사실을 이번에 새로 알 수 있기도 했다. 할루시네이션에 대한 설명, OpenAI API 개념도 알 수 있도록 하여 기술적 부분 중 코드에만 확실히 치중한 책은 아니라는 것도 확인했다.

OpenAI의 Chat과 Completion을 이용해서 아주 간단한 서비스를 만들어보는 예제들이 많아서 도움이 되었다. 나중에 서비스에 적용하거나 기획할 때 크게 요긴할 것 같다. 그리고 또 도움이 되었던 것은 OpenAI API 관리 부분과 취약점 부분이었다. 내가 원래 커리어 시작이 보안 쪽이기도 하고 개발할 때도 보안적 측면을 많이 고려하다보니 이 부분은 관심을 갖지 않을 수가 없었다. API 키 관리는 웹 개발자의 기본적인 상식이라고 치고 특히 나는 프롬프트 인젝션이라는 것은 처음 알게 되었다. SQL 인젝션처럼 프롬프트에도 인젝션이 있나라고 생각했다. 많은 곳에서 프롬프트 엔지니어링만 외쳐될 때 프롬프트 인젝션에 대한 내용은 많이 소홀한 것 같다. 이 책에서는 이런 무시무시한 취약점이 있으니 항상 조심하라고 잘 안내해주었다. 실제로 개발 중인 우리 앱을 대상으로 테스트도 해봤다. 모델에 내린 지침을 알려달라고 해보았는데 Playground에 입력된 내용 그대로를 아주 자세히 출력해내는 것을 볼 수 있었다. 이 부분은 동료 개발자와 함께 막을 방법을 고민해보아야 할듯하다. 아마 그 개발자도 이런 내용은 모르지 않을까 싶다.

뉴스 생성 솔루션, 유튜브 동영상 요약, <젤다의 전설> 전문가 만들기 같은 서비스를 만들어보고 그 과정에서 RAG라든지, 맵리듀스 방식 같은 실용적인 기술을 사용한 점도 실습을 해가면서 많이 놀랐다. 책 전체를 망라해서 지속적인 놀라움의 연속이었다. 책 마지막 부분에는 독특하게 부록으로 작년 11월 6일에 있었던 OpenAI DevDay 행사에 있었던 개선사항과 변경사항을 살펴보는 섹션이 있었다. 책 출간 일정 상 아쉽게도 포함되지 않은 OpenAI의 Assistants API를 설명하고 있기도 하다. 물론 이와 관련된 정보를 알 수 있는 웹페이지 링크를 삽입해놓았다. 기본적인 사용법은 이 책에 담긴 다른 예제들과 유사하고 공식문서도 잘 되어있기에 Assistants API를 활용해보고 싶은 분은 해당 웹페이지를 참고하면 될 것 같다.

이 책의 차별점은 아무래도 최근에 무수히 쏟아지고 있는 ChatGPT나 GPT 관련 서적 중에서 교양서나 비즈니스 관련서를 제외하고 최신의 사항을 포함하고 있다는 점을 들 수 있을 것 같다. 아무래도 짧은 기간 간격으로 모델 업그레이드가 이루어지고 있고 관련된 서비스도 속속 추가되는 시점이기에 일단 지금 현재로서도 가장 최신의 서적이기도 하다. 그리고 책 분량이 170페이지 가량으로 두껍지 않고 빠르면 하루, 이틀 정도면 다 볼 수 있는 분량이기에 짧은 시간 내에 GPT 모델과 API 활용방법을 알 수 있다는데에 큰 장점이 있는 것 같다. 실습을 전부 따라한다고 해도 일주일 정도면 충분하지 않을까 싶다.

요즘 엔비디아 주식만큼이나 GPT의 발전이 무섭도록 올라가고 있기 때문에 개발자라면 기본적으로 반드시 익혀야할 현재 시점의 기술적 소양이라고 생각하는 바이다.