어느덧 AI 업계에서 10년이 넘는 시간을 보냈습니다. 학부 시절 ImageNet (이미지넷) 논문을 넘기며 시작된 이 여정은 딥러닝과 MLOps를 지나, 프롬프트 엔지니어링을 거쳐 이제는 에이전트의 시대로 접어들었습니다. 돌이켜보면 2~3년마다 판이 완전히 뒤집히는 격변의 연속이었습니다. 그때마다 ‘이번엔 진짜 다르다’는 말이 들려왔고 실제로 매번 달랐습니다.

그런데 요즘 현장에서 유독 자주 들려오는 단어가 있습니다. 바로 ‘하네스 엔지니어링(Harness Engineering)’입니다. 대중에게는 아직 생소한 개념일 수 있습니다. 하지만 10년 넘게 이 업계의 변곡점을 지켜봐 온 저에게는, 이 용어야말로 지금의 AI 산업을 관통하는 가장 핵심적인 키워드로 읽힙니다.

이토록 생소한 단어가 왜 지금 우리에게 필요한 화두가 된 걸까요? 그 답은 역설적이게도 AI가 너무 ‘똑똑해졌기’ 때문입니다.

ChatGPT를 써본 분이라면 한 번쯤 이런 경험이 있을 겁니다. 분명 놀라울 정도로 영리한 대답을 하다가도, 문득 맥락을 놓치거나 틀린 정보를 너무나 확신에 찬 목소리로 내뱉곤 하죠. 개인이 쓸 때는 “아, 다시 물어봐야지”하고 웃으며 넘길 수 있는 해프닝입니다.

하지만 이 기술이 기업의 핵심 서비스에 ‘이식’되는 순간, 이야기는 완전히 달라집니다. 고객 응대 챗봇이 잘못된 약관을 안내하거나, 데이터 분석 AI가 숫자를 오독한다면 어떻게 될까요? 비즈니스 세계에서 AI의 작은 실수는 곧 돌이킬 수 없는 사고이자 비용이 됩니다.

결국 문제는 ‘지능’ 그 자체가 아니라 ‘통제’에 있습니다. 아무리 천재적인 인재라도 명확한 가이드라인이 없으면 조직에 혼란을 주듯, 제어되지 않은 AI의 지능 역시 위험 요소가 될 뿐입니다. 바로 이 지점에서, 날뛰는 인공지능에 단단한 고삐를 채우는 ‘하네스 엔지니어링’의 필요성이 시작됩니다.

천재에게도 가이드라인이 필요하다

‘하네스(Harness)’라는 단어를 들으면 무엇이 떠오르시나요? 암벽등반을 할 때 몸에 거는 안전장치나 마차에서 말을 제어하기 위한 고삐를 떠올리면 이해가 빠릅니다. 형태는 달라도 핵심은 같습니다. 강력한 힘을 가진 존재가 안전하게, 그리고 원하는 방향으로 움직이도록 붙들어주는 장치입니다.

하네스 엔지니어링은 AI에게 바로 이 장치를 달아주는 일입니다. 

AI 모델이라는 강력한 엔진이 조직의 규칙과 목표라는 궤도를 이탈하지 않고 작동하도록 정교한 시스템을 설계하는 것이죠.

비유를 하나 더 들어볼까요. F1 경주차를 떠올려보세요. 

엔진이 아무리 강력해도 차체와 서스펜션, 브레이크 시스템이 뒷받침되지 않으면 경주 자체가 불가능합니다. 트랙을 벗어나거나 코너에서 전복될 것이 뻔하기 때문입니다. 여기서 AI 모델이 ‘엔진’이라면, 하네스는 그 엔진을 감싸는 ‘차체 전체’입니다. 엔진의 폭발적인 힘을 100% 발휘하되, 차를 트랙 위에 머물게 해주는 것. 그것이 하네스 엔지니어링의 본질입니다.

하네스가 AI를 다루는 세 가지 방식

구체적으로 하네스는 세 가지 역할을 합니다.

❶ AI가 읽을 수 있는 형태로 지식을 정리합니다. 

사람은 슬랙 메시지, 노션 문서, 회의록 등에 흩어진 정보를 맥락으로 파악하지만, AI에게는 가공되지 않은 데이터일 뿐입니다. 게다가 AI는 대화를 새로 시작할 때마다 기억이 리셋되는 영화 <메멘토>의 주인공과 같습니다. 하네스는 AI가 매번 새로 시작하더라도 반드시 지켜야 할 규칙과 맥락을 코드 저장소 안에 구조화된 문서로 정리해둡니다.

❷ 복잡한 작업을 단계별로 쪼개줍니다.

AI에게 ‘이 앱 전체를 만들어줘’라고 요청하면 높은 확률로 중간에 길을 잃습니다. 마치 요리 초보에게 ‘코스 요리를 만들어’라고 주문하는 것과 같죠. 하네스는 이 막막한 작업을 ‘재료 확인 → 레시피 구성 → 단계별 조리’로 세분화합니다. 조사, 계획, 실행의 논리적 흐름을 강제하여 성공 확률을 높이는 것입니다.

❸ AI가 스스로 자기 작업을 검토하게 만듭니다.

사람도 자기가 쓴 글에서 오타를 잘 못 찾듯, AI 역시 자신의 결과물을 과대평가하는 경향이 있습니다. 그래서 하네스는 작업을 수행하는 AI와 그 결과를 검증하는 AI를 철저히 분리합니다. 한 AI가 코드를 짜면, 다른 AI가 그 코드를 실제로 실행해보고 문제를 찾아 돌려보냅니다. ‘글을 쓰는 사람’과 ‘교정을 보는 사람’을 따로 두어 완성도를 높이는 원리입니다.

20분의 껍데기 vs 6시간의 실체: 완성도를 결정짓는 한 끗

지금 AI 업계의 가장 큰 변화는 모델이 단순히 질문에 답하는 수준을 넘어, 실제로 ‘일’을 하기 시작했다는 점입니다. 코드를 짜고 이메일을 쓰고 데이터를 분석하고 디자인을 만듭니다. 이런 AI를 ‘에이전트’라고 부릅니다.

에이전트가 제 몫을 다하려면 모델의 지능만으로는 부족합니다. 조직의 규칙을 이해하고, 정해진 절차를 따르고, 실수를 스스로 잡아낼 줄 알아야 합니다. 이 모든 것을 가능하게 하는 설계가 바로 하네스 엔지니어링입니다.

앤트로픽에서 최근 공개한 실험이 이를 잘 보여줍니다. 똑같은 AI 모델에게 ‘2D 레트로 게임 메이커를 만들어줘’라고 시켰을 때 하네스 없이 혼자 작업한 AI는 20분 만에 겉보기에 그럴듯한 결과물을 내놓았지만 실제로 게임을 플레이하면 작동하지 않았습니다. 반면 하네스를 장착한 AI는 6시간에 걸쳐 계획을 세우고, 기능을 하나씩 구현하며, 교차 검증을 거친 끝에 실제로 플레이 가능한 게임을 완성해냈습니다. 결국 속도보다 중요한 것은 ‘완성도’이며, 그 완성도를 결정짓는 차이가 바로 하네스에 있습니다.

ImageNet이 끝이 아니었듯, 하네스도 여정의 일부일 뿐이다

저는 이 개념이 중요하다고 믿지만, 동시에 이것이 AI의 전부라고 말하고 싶지는 않습니다. 10년 전 ImageNet이 전부가 아니었듯, 지금의 하네스 엔지니어링도 더 큰 흐름의 한 장면입니다.

저와 두 명의 저자가 함께 쓴『AI 프로덕트는 어떻게 만들어지는가』는 바로 이 큰 흐름을 그리는 책입니다. AI 기술이 어떻게 발전해왔는지, 그 기술로 프로덕트를 만든다는 것은 어떤 판단과 결정의 연속인지, 그리고 지금 이 순간 현장에서 무엇이 중요한지를 10년간의 경험을 바탕으로 담았습니다.

하네스 엔지니어링은 그 여정의 현재 좌표입니다. 그리고 이 좌표가 어디로 이동할지는 아무도 모릅니다. 다만, 지금까지의 궤적을 이해하면 다음 방향을 가늠할 수 있는 감각은 생깁니다. 이 책이 그 감각을 만드는 데 도움이 되었으면 합니다.

류인태