한빛미디어

"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다."

AI 시대의 패러다임

앞으로의 개발자는 어떤 역할을 하게 될까? 이 질문은 꽤나 많은 개발자들과 관련 업종들을 불안에 떨게 하고 있다. 그 답은 정확히 어느 누구도 알 수는 없지만 지금의 패러다임으로 본다면 제일 유력한 한가지가 있다.

인공지능의 발전은 단순히 기술의 진보를 넘어 우리 삶의 패러다임을 근본적으로 변화시키고 있다. 초기 AI는 주어진 데이터를 분석하고 패턴을 인식하는 수동적인 역할에 머물렀다면, 이제는 스스로 판단하고 행동하는 능동적인 존재로 진화하고 있다. 이러한 변화의 핵심에는 '행동하는 AI'라는 새로운 패러다임이 자리하고 있다.

과거의 AI가 정보를 제공하는 조력자였다면, 현재의 AI는 실제 업무를 수행하고 문제를 해결하는 실행자로 거듭나고 있다. 단순히 질문에 답하는 것을 넘어, 복잡한 작업을 자동화하고, 여러 시스템을 연계하며, 상황에 맞는 최적의 행동을 취하는 AI 에이전트의 시대가 열리고 있다. 이는 AI 기술이 실험실에서 실생활로, 이론에서 실천으로 확장되는 중요한 전환점이다.

하지만 이러한 행동하는 AI를 제대로 구현하기 위해서는 단순히 강력한 모델만으로는 부족하다. AI가 올바른 맥락을 이해하고, 적절한 판단을 내리며, 효과적으로 행동하도록 만드는 '컨텍스트 엔지니어링'이 필수적이다.

즉 우리는 앞으로 더이상 AI 를 단순히 ‘호출하는’ 개발자에 머무르지 않고, 자율적인 AI 동료를 ‘설계하는’ 아키텍트의 관점을 갖는 ‘컨텍스트 엔지니어’로 진화하게 될 것이다.

프롬프트 엔지니어링 vs 컨텍스트 엔지니어링

프롬프트 엔지니어링은 AI에게 단일 질문이나 명령을 효과적으로 전달하는 기술이다. 주로 정적이고 일회성 상호작용에 초점을 맞추며, 사용자가 원하는 즉각적인 답변이나 결과를 얻는 것이 목표다.

반면 컨텍스트 엔지니어링은 AI 에이전트가 복잡한 작업을 자율적으로 수행할 수 있도록 전체적인 맥락, 도구, 지식, 그리고 행동 방식을 설계하는 것이다. 이는 단순한 질의응답을 넘어 AI가 여러 단계의 작업을 수행하고, 상황에 맞게 판단하며, 다양한 시스템과 상호작용할 수 있도록 하는 포괄적인 접근법이다.

AI 를 단순히 사용하는데 머무르는 것이 아니라 AI 의 지능과 사고 구조를 설계하는 사람, 마치 피노키오를 만드는 제페토가 되는 것이다.

책 소개

• 책 제목 : 컨텍스트 엔지니어링으로 완성하는 AI 에이전트: 랭체인, RAG, CoT, ReAct, LLMOps 로 구현하는 AI 서비스 실전 가이드
• 글쓴이 : 박경민
• 출판사 : 한빛미디어
• 초판 1쇄 : 2025.12.29

책의 특징

본론으로 들어가서, 본인 뿐 아니라 위에 언급한 것처럼 꽤나 많은 개발자들이 AI 시대의 빠른 속도에 불안감을 느끼고 있을 것이라고 생각한다. 물론 해당 책이 그 명확한 답이 되어주지는 않지만 본인은 책을 읽으면서 적어도 지금 가야하는 방향성은 제대로 알게 된 기분이었다.

다수의 일반인들 뿐 아니라 개발자들 또한 자연어를 AI 가 이해하면서 마치 친구나 사람과 대화하는 것처럼 명령해왔을 것이다.

> 파이썬으로 데이터 분석하는 코드 만들어줘. 일반적인 거 말고, 뭔가 좀 특별한 걸로 해줘. 시각화도 넣어줘. matplotlib 쓰는 게 좋을까 seaborn이 좋을까? 둘 다 괜찮긴 한데 최신 사용 추이 보고 네가 알아서 해줘. 참고로 데이터는 csv 파일인데, 컬럼이 몇 개 있는지 알아서 확인하고 진행해.

AI의 응답...

> 이거 실행하니까 에러 나는데 확인해서 고쳐

AI의 응답...

> 아 됐어. 근데 이걸 웹으로 만들고 싶은데, Flask로 할까 FastAPI로 할까? 아니면 Django? 각각의 장단점 좀 설명해줘. 그리고 프론트엔드는 React가 좋을까 Vue가 좋을까?

어찌저찌 굴러가서 잘 되면 되는게 아닐까? 라고 본인 또한 생각해왔지만 사실 위처럼 사용하는데는 문제들이 수도 없이 많다.

모호한 요구사항, 불필요한 선택지 나열, 명확하지 않은 컨텍스트, 범위 특정 불가 등으로 AI가 효과적으로 작업할 수 없는 전형적인 패턴이다. (좀 찔리지 않는가…?) 구체적인 요구사항과 필요한 정보를 간결하게 제공하는 것이 중요하다.

AI 를 활용하는 애티튜드를 새기다

AI 가 나오고 환호했던 우리들은 생각만큼 AI 가 원하는 답을 정확하게 내어주지 않음에 실망했었다. 거짓말을 말하거나, 내용을 까먹는 등 고질적인 문제들이 대두되어 그에 대한 해결책으로 프롬프트 엔지니어링이 반짝했던 짧은 시간이 있었더랬다. 우리는 더 구체적으로 정교하게 질문한다면 AI 가 더 나은 답을 줄 것이라고 생각했고 그것 또한 틀린 접근은 아니었다. 그러나, 본질적인 한계에 부딪혔고 이제 새로운 답을 찾아낸 것이다.

문제의 본질은 AI 가 요리하는 그 재료. 즉 컨텍스트가 없다는데에 있었다. 남들이 다 하는 AI 에게 어떻게 질문할 것인가의 고민을 넘어서서 우리는 이제 AI 가 내 의도를 정확히 파악하고 행동하기 위해서 무엇을 알려주어야하는가 에 대해 생각하고, AI 에게 정확한 배경 지식과 직접적인 기억을 주입해주어야한다.

그리고 단순하게 AI 를 쓰는 것에만 국한되지 말고, 페르소나 설정이나, AI 추론 능력의 극대화를 위해 CoT(Chain of Thoughts) 프롬프팅을 사용하는 것부터 시작하여 AI 가 임베딩(텍스트를 벡터로 변환)해 정보를 벡터 데이터베이스로 저장하는 방식을 이해하고, 이를 기반으로 효과적인 질문을 하는 방법까지 세심하게 생각하게 만든다.

현실적인 팁

AI 에게 데이터를 넘길 때도 큰 문서를 통째로 넘기기보다 청크 단위로 나누는 것도 그렇지만 CoT의 경우 새삼 흥미로웠던 부분인데, 사람 또한 말하는 중간에 길을 잃듯이 AI 또한 그럴 수 있는데, 만일 간단하게, ‘단계별로 차근차근 생각해봐.’ 라는 문장 하나만 붙인 것으로 사람이 보기 쉬운 결과에 그치지 않고 이전보다 정확한 대답을 내놓는 다는 것이다. 마치 AI 에게 생각하는 방법을 가르치는 기분이지 않은가?

고작 몇단어 정도의 수고로움으로 AI 를 정확하게 다룰 수 있게 되는데, 이러한 작은 팁들이 모여 확연하게 컨텍스트 아키텍트로 만들어주는 것이 아닐까?

또한, 개인적으로 Cli 등을 사용하는 사람들이 제일 궁금해하는 부분 중 하나인, 토큰 최적화 전략에 대해서도 빼놓지 않고 있는데, 근본적으로 컨텍스트의 효율과 연관지어 어떻게하면 둘 다 챙길 수 있는지 생각해보게 한다.

개인적인 반성

사실 해당 책을 계속 보면서 원론적인 팁들에 가까운 내용이자, 마치 ‘음.. 이렇게까지 생각한 적은 없었지만 그렇구나’ 정도였는데 특히 반성을 하게 된 챕터가 있다.

‘컨텍스트 엔지니어링’ 으로 실무에서 마주하는 문제들을 해결해보는 부분인데, 해당 책에서 진행하는 것처럼 실제로 본인은 실무에서 PR 리뷰 자동화, 스펙/이슈 핸들링에 있어서 AI 와 페어 프로그래밍을 진행한다고 해도 과언이 아니다. 그래서 실제로 해당 책에서 언급한 것처럼 응답의 질에 있어서나, 코드의 원래 의도를 무시하는 등의 응답들에 실망했던 부분이 다수 있었다. 그러나, 해당 챕터를 읽으면서 그것이 전적으로 본인의 역량 부족이었다는 것을 느끼게 되었는데, 팀의 규칙과 프로젝트 지도 (tree), 핵심 설계도, 스펙의 원칙 등의 컨텍스트를 AI 에게 주입하고 요청했다면 결과가 달랐을 것이라는 생각이 든다. (이제 알았으니 실제로 해보러 갈 것이다.)

더 나아가 개발자 뿐 아니라 각종 직업들에서 쓰는 것처럼 챗봇이나, 법률/의료에서 사용하는 AI 어시스턴스 등 다양한 부분에 대한 실습을 진행하므로 여러 방면의 활용을 보며 시야를 넓혀나갈 수도 있다.

추천 대상

해당 책에서는 AI 의 구조적 한계를 예시와 동작 원리들과 함께 이해하고, 실제 현업에서 어떤 문제를 마주하고 어떻게 해결할 것인지 실습하며, 나아가 행동하는 AI 에이전트를 직접 구축하고 앞으로의 가능성을 함께 생각해봄으로써 독자들에게 컨텍스트 아키텍트 로 나아가는 씨앗을 심어준다.

그저 AI 를 사용하는 사람이 아니라 AI 를 가르치고 그 능력을 최대한 끌어낼 수 있는 사람이 다음 시대에서 살아남을 것이기 때문에, 전반적으로 개발자에게 한정되지 않고 여러 직군의 비개발자들에게도 해당 책은 필수적이다. 물론 그들에게도 무리가 없을 난이도와 예시들을 담고 있으나, 활용도는 무궁무진하게 넓혀주기 때문에 AI 시대에서 앞서 나아가기 위해 AI 를 잘 활용하고 싶은 모든 이들에게 추천하고 싶다.

책의 한줄평

컨텍스트 엔지니어링, AI 시대의 차별성을 만들어내는 필수 요건