AI가 스스로 토론? 생각의 다이어그램(DoT) 프롬프트 활용법

혹시 어려운 문제를 두고 스스로에게 질문을 던지고 반박하며 생각의 가닥을 잡아본 경험이 있으신가요? 마치 머릿속에서 회의를 하듯, 아이디어를 내는 나와 그 아이디어를 검증하는 또 다른 내가 치열하게 토론하는 과정 말입니다.

지금까지의 AI는 탁월한 ‘응답’ 능력에 비해, 이런 다각적이고 비판적인 ‘사고’ 능력은 부족했습니다. ‘단계별로 생각(Chain-of-Thought)’ 같은 기법은 AI의 생각을 한 줄로 나열하는 독백에 가까웠죠. 하지만 진짜 어려운 문제를 해결하는 열쇠는 종종 독백이 아닌, 잘 짜인 ‘토론’에 있습니다.

최근 칭화대 연구진이 발표한 ‘생각의 다이어그램(Diagram of Thought, DoT)’은 바로 이 지점을 파고듭니다. AI에게 단순히 답을 찾으라고 명령하는 대신, AI 내부에 아이디어를 내는 ‘제안자’, 이를 검증하는 ‘비평가’, 그리고 검증된 내용만 종합하는 ‘요약가’로 구성된 자율적인 사고팀을 만들게 하는 혁신적인 프롬프트 전략입니다. (출처)

Diagram of Thought (DoT)란? AI 내부에 자율적인 ‘토론팀’을 꾸리는 법

DoT의 핵심은 AI를 하나의 목소리를 내는 단일 개체가 아닌, 여러 역할을 수행하는 하나의 시스템으로 바라보는 것입니다. 문제 해결을 위해 AI 내부에 다음과 같은 세 가지 페르소나로 구성된 ‘토론팀’을 동적으로 생성하고 활용합니다.

• 제안자 (Proposer): 브레인스토밍의 아이디어 뱅크입니다. 문제 해결을 위한 가설, 잠재적 해결책 등 다양한 생각의 길을 창의적으로 만들어냅니다.
• 비평가 (Critic): 냉철한 분석가이자 ‘악마의 변호인’입니다. ‘제안자’가 내놓은 아이디어의 논리적 오류, 약점, 타당성을 날카롭게 검증하고 피드백을 제공합니다.
• 요약가 (Summarizer): 회의의 서기이자 최종 결정자입니다. ‘비평가’의 혹독한 검증을 통과한(Validated) 아이디어들만 모아, 논리적으로 종합하여 최종 결론을 도출합니다.

가장 놀라운 점은 이 모든 ‘토론팀’의 역할을 단 하나의 언어 모델(예: GPT-4)이 모두 수행한다는 것입니다. 단지 프롬프트를 통해 역할을 부여하는 것만으로, AI는 스스로 다중 인격을 만들어 문제에 입체적으로 접근합니다. 이 모든 과정은 외부의 복잡한 시스템 없이, LLM 내부에서 자율적으로 일어납니다.

DoT는 왜 더 똑똑할까요? ‘생각의 가지치기’와 ‘자기 검증’

기존의 CoT(Chain-of-Thought)는 생각을 한 줄의 사슬로 이어가기 때문에, 한 번 잘못된 길로 들어서면 되돌아오기 어렵다는 치명적인 단점이 있었습니다. DoT는 이 문제를 다음과 같은 방식으로 해결합니다.

• 비선형적 사고 (생각의 지도): DoT는 생각을 직선이 아닌, 여러 갈래로 뻗어 나가는 마인드맵처럼 구조화합니다. 이를 통해 동시에 여러 가설을 탐색하고, 막다른 길에 다다르면 다른 유효한 경로에서 생각을 이어갈 수 있습니다.
• 내재된 비판과 검증 (품질 관리): ‘비평가’의 존재가 핵심입니다. AI는 스스로 자신의 생각을 비판하고 검증하는 ‘내장된 품질 관리(QC)’ 과정을 거칩니다. 잘못된 추론은 ‘폐기(Invalidated)’되고, 타당한 추론만 ‘검증(Validated)’되어 다음 단계로 넘어갑니다. 이는 AI가 섣부른 결론에 도달하는 것을 막고, 결과물의 신뢰도를 극적으로 높여줍니다.
• 자율성과 효율성: 외부 시스템 없이 LLM 스스로 <proposer>, <critic>, <summarizer> 같은 역할 토큰(role tokens)을 예측하고 생성하며 전체 토론 과정을 지휘합니다. 이는 DoT를 매우 효율적이고 유연하게 만듭니다.

수학이 보장하는 신뢰성: 토포스 이론의 역할

“정말 AI가 이 복잡한 토론 과정을 안정적으로 해낼 수 있을까?” 라는 의문이 들 수 있습니다. DoT 연구진은 이 부분에 대해 토포스 이론(Topos Theory)이라는 고등 수학 분야를 통해 강력한 이론적 근거를 제시합니다.

토포스 이론은 AI의 복잡한 생각들을 일관성 있게 종합할 수 있는 ‘수학적 문법’을 제공합니다. 제안-비판-요약의 순서나 내용이 아무리 복잡해져도, 최종 결과물이 항상 논리적으로 일관되고 견고함을 수학적으로 보장합니다.

이는 DoT가 단순히 경험적인 기법을 넘어, 이론적으로도 그 안정성과 신뢰성이 증명된 프레임워크임을 의미합니다.

지금 바로 써먹는 DoT 프롬프트 구조

DoT의 핵심 아이디어는 우리 프롬프트에 바로 적용해볼 수 있습니다. AI에게 문제 해결을 위한 역할 분담과 검증 절차를 명시적으로 지시하는 것이죠.

### 문제 ###
{해결하고 싶은 복잡한 문제}

### 지시문 ###
이 문제를 해결하기 위해, 당신은 다음과 같은 세 가지 역할을 순환적으로 수행해야 합니다.
제안자 (Proposer): 문제 해결을 위한 가능한 접근법, 가설, 또는 계산 단계를 제시하세요.
비평가 (Critic): '제안자'가 제시한 내용의 장점과 단점, 잠재적 오류를 분석하고 평가하세요. 이 제안이 타당한지(Validated) 혹은 타당하지 않은지(Invalidated) 명확히 판단해야 합니다.
요약가 (Summarizer): 오직 '비평가'에 의해 'Validated'된 제안들만을 종합하여, 최종 결론을 도출하거나 다음 단계를 진행하세요.

이 과정을 반복하여 가장 신뢰도 높은 해결책을 찾아내세요.
    

결론: 응답하는 AI를 넘어, 추론하는 AI로

Diagram of Thought는 AI가 단순히 방대한 지식에서 ‘답을 찾는’ 단계를 넘어, 주어진 정보 내에서 ‘스스로 추론하고 검증하는’ 단계로 나아가는 중요한 전환점을 보여줍니다.

AI에게 복잡한 과업을 맡길 때, 단순히 답을 요구하는 것을 넘어 ‘내부적인 토론 과정’을 거치도록 해보세요. 이전과는 차원이 다른, 놀랍도록 체계적이고 신뢰도 높은 ‘사고의 결과물’을 얻게 될 것입니다. 이는 AI를 단순한 답변 기계가 아닌, 진정한 ‘사고 파트너’로 만드는 첫걸음입니다.