성공하는 AI 에이전트, 비결은 ‘단순함’ (Anthropic 5원칙)

요즘 AI 업계는 그야말로 ‘에이전트 전쟁’입니다. 모두가 더 똑똑하고 자율적인 시스템을 만들기 위해 열을 올리고 있죠. 하지만 이 뜨거운 경쟁 속에서, 혹시 우리는 ‘더 복잡하게’ 만드는 것을 ‘더 뛰어나게’ 만드는 것이라 착각하고 있지는 않을까요?

Anthropic이 바로 이 지점에서 아주 신선하고 중요한 화두를 던집니다. 놀랍게도, 가장 성공적으로 운영되는 AI 에이전트는 눈부시게 화려한 기술의 집약체가 아니라, 본질에 집중한 단순한 시스템이라는 것입니다. (출처: https://www.anthropic.com/engineering/building-effective-agents)

이 글은 Anthropic의 발견을 단순히 전달하는 것을 넘어, 그 안에 숨겨진 깊은 통찰을 우리 것으로 만들기 위한 안내서입니다. 왜 우리가 복잡성의 유혹에서 벗어나야 하는지, 그리고 진정으로 견고하고 효율적인 AI 에이전트를 만드는 5가지 핵심 원칙은 무엇인지 함께 차근차근 살펴보겠습니다.

원칙 1. 복잡함은 기능이 아닌 ‘비용’입니다

가장 먼저 우리가 가진 고정관념을 깨는 것에서 시작해야 합니다. 복잡함은 기능이 아니라, 우리가 지불해야 할 ‘비용’이라는 사실입니다. Anthropic이 발견한 최고의 에이전트들은 거대한 프레임워크가 아닌, 작고 단순한 기능들을 레고처럼 조합하는 방식을 사용했습니다.

사실 많은 경우, 우리는 검색(RAG) 기능이 잘 구현된 단일 LLM 호출만으로도 충분히 문제를 해결할 수 있습니다. 에이전트 시스템은 더 높은 성능을 위해 시간과 돈이라는 비용을 기꺼이 치르겠다는 ‘전략적 선택’이어야 합니다. 무조건 따라야 할 유행이 아니라, 그만한 가치가 있을 때만 신중하게 내려야 할 결정이라는 뜻이죠.

원칙 2. 프레임워크라는 달콤한 함정

단순함을 추구할 때 가장 먼저 마주하는 유혹이 바로 각종 프레임워크일 겁니다. 분명 프로젝트를 빠르게 시작하게 해주는 고마운 존재죠. 하지만 이는 아름다운 장미에 숨겨진 가시와 같습니다.

Anthropic은 프레임워크가 “내부에서 일어나는 일을 안개처럼 가려버려서, 문제가 생겼을 때 디버깅을 재앙으로 만든다”고 지적합니다. 보이지 않는 곳에서 어떤 프롬프트가 오고 가는지 알 수 없다면, 우리는 문제의 원인을 찾기 위해 미궁 속을 헤맬 수밖에 없습니다.

가장 좋은 접근법은 명확합니다.

• 맨손으로 시작하세요. LLM API를 직접 다루며 원리를 완벽히 이해하는 것이 우선입니다.
• 프레임워크를 사용한다면, 내부 구조를 훤히 들여다볼 수 있을 만큼 깊이 이해하고 통제권을 잃지 마세요.

원칙 3. AI에게도 ‘깐깐한 편집자’가 필요합니다

프레임워크의 안개에서 벗어나면 훨씬 우아하고 투명한 세상을 만날 수 있습니다. 그중 가장 빛나는 패턴이 바로 ‘작가-편집자(evaluator-optimizer)’ 워크플로우입니다.

마치 뛰어난 작가와 깐깐한 편집자가 한 팀으로 일하는 모습을 상상해 보세요.

• 초고 작성 (작가 LLM): 첫 번째 LLM이 문제에 대한 초안을 작성합니다.
• 날카로운 피드백 (편집자 LLM): 두 번째 LLM이 명확한 기준에 따라 초안을 검토하고, “이 부분은 논리가 부족해”, “더 정확한 데이터가 필요해” 와 같은 구체적인 피드백을 전달합니다.
• 퇴고와 완성: 이 피드백을 바탕으로 초안을 수정하는 과정을 반복하며 완성도를 높입니다.

이 방식은 특히 사람의 섬세한 피드백이 결과물의 품질을 크게 좌우하는 작업, 예를 들어 문학 번역이나 복잡한 리서치 분석 같은 분야에서 놀라운 힘을 발휘합니다. (관련 포스팅: https://prob.co.kr/llm-agent-workflow-patterns)

원칙 4. AI를 위한 ‘배려 깊은’ 인터페이스

AI 에이전트는 ‘도구(tool)’를 통해 세상과 소통합니다. 그런데 우리는 종종 AI가 이 도구를 얼마나 쉽게 이해하고 사용할 수 있을지에 대해 무심하곤 합니다. 바로 ACI(Agent-Computer Interface)의 중요성을 놓치는 것이죠.

우리는 사용자를 위해 보기 좋고 쓰기 편한 UI(HCI)를 만드는 데 엄청난 노력을 쏟습니다. Anthropic은 그 노력만큼 AI를 위한 좋은 인터페이스 설계에 투자해야 한다고 말합니다.

좋은 ACI 설계는 “처음 입사한 신입 개발자에게 내 코드를 설명해주는 것”과 같습니다.

• 이름만 봐도 기능을 알 수 있는가?
• 매개변수가 무엇을 원하는지 명확한가?
• 이 도구가 무엇을 하는지 친절한 설명이 있는가?

AI가 실수할 가능성 자체를 원천 봉쇄하는 이런 ‘배려 깊은 설계’가 결국 시스템 전체의 안정성을 극적으로 끌어올립니다.

원칙 5. ‘KTX’를 만들 것인가, ‘오프로드 지프’를 만들 것인가

모든 설계를 시작하기 전, 반드시 내려야 할 근본적인 결정이 있습니다. 바로 ‘워크플로우’와 ‘에이전트’ 중 무엇을 만들지 선택하는 것입니다.

• 워크플로우 (Workflows): 정해진 철로 위를 예측 가능하게 달리는 KTX와 같습니다. 모든 단계가 미리 정의되어 있어 일관성이 생명인 작업에 적합합니다.
• 에이전트 (Agents): 정해진 길 없이 스스로 최적의 경로를 탐색하는 오프로드 지프와 같습니다. 문제 해결 경로를 예측할 수 없는 열린 문제에 유연하게 대처해야 할 때 필요합니다.

이 선택은 단순히 용어의 차이가 아닙니다. 당신이 만들 시스템의 ‘영혼’을 결정하는 일이며, 프로젝트의 성패를 가르는 첫 단추가 될 수 있습니다.

결론: 좋은 시스템은 ‘덜어냄’의 미학에서 탄생합니다

결국 Anthropic이 우리에게 전하는 메시지는 기술의 문제가 아니라 철학의 문제에 가깝습니다. 최고의 AI 에이전트는 더 많은 기능을 구현하는 복잡한 괴물이 아니라, 풀어야 할 문제의 본질에 집중하여 꼭 필요한 것만 남긴 단순하고 우아한 시스템이라는 것입니다.

지금 당신의 화이트보드에 그려진 아키텍처를 다시 한번 들여다보세요. 그 복잡함은 정말로 ‘필요’에 의한 것인가요, 아니면 혹시 모를 불안감과 유행에 떠밀린 ‘욕심’은 아닐까요?