AI 프롬프트 작성법: ‘답’이 아니라 ‘생각’을 설계해 성능 200% 높이기
AI에게 결론만 독촉하지 마세요. 추론의 공간을 설계해주면, AI는 단순 답변기에서 전략적 파트너로 진화합니다.
AI에게 질문을 던졌는데 엉뚱한 소리를 하거나, 논리가 꼬인 답변을 받아보신 적 있나요? “역시 AI는 아직 멀었네”라며 창을 닫기 전, 여러분의 프롬프트를 먼저 돌아봐야 합니다.
이유는 단순합니다. 우리가 AI에게 ‘추론의 시간’을 주지 않고 결론만 독촉했기 때문입니다. 비유하자면, 수학 문제를 풀 때 풀이 과정 없이 정답만 적으라고 압박하는 셈이죠. AI를 단순한 검색기에서 고도의 논리 파트너로 바꾸는 네 가지 전략을 정리해 드립니다.
1. 오답 노트를 보여주세요 (Contrastive CoT)
보통은 정답 예시만 몇 개 보여주면 된다고 생각합니다. 하지만 ‘틀린 사례’를 함께 보여줄 때 AI의 판단력은 훨씬 정교해집니다. 이를 대조적 사고 연쇄(Contrastive CoT)라고 합니다.
왜 효과적인가
사람이 오답 노트를 통해 실수를 줄이듯, AI도 ‘논리적 함정’이 어디인지 인지하게 됩니다.
- 잘못된 사례: “A상품은 100원, B상품은 200원이다. 따라서 합계는 400원이다.”처럼 숫자를 섞거나 논리 단계가 점프한 예시를 제공합니다.
- 올바른 사례: “위 예시는 숫자가 틀린 오답이다. 너는 반드시 ‘A(100)+B(200)=300’이라는 논리 구조를 따라야 한다.”라고 지시합니다.
2. 완벽한 하나보다 다양한 다섯이 낫습니다 (Auto-CoT)
예시를 직접 만드는 게 귀찮다면 Auto-CoT(자동 사고 연쇄)를 활용하세요. 핵심은 ‘다양성(Clustering)’입니다.
비슷한 유형의 예시만 주면 AI는 특정 패턴에 매몰됩니다. 대신 문제를 3~5가지의 서로 다른 카테고리로 분류해 보세요.
전문가의 규칙
- 질문은 짧게: 2~3문장 이내(60토큰)
- 단계는 명확하게: 사고 과정은 5단계 이내로
- 의외의 사실: 예시에 사소한 실수가 있어도 괜찮습니다. 얼마나 ‘다양한 상황’을 포함하고 있느냐가 정확도보다 더 중요합니다.
3. 마법의 문장, “단계별로 생각해보자” (Zero-Shot CoT)
예시를 만들 시간조차 없다면, 질문 끝에 이 한 마디만 붙이세요.
“Let’s think step by step (단계별로 생각해보자).”
이것만으로도 정확도가 급상승합니다.
조금 더 정교하게 쓰고 싶다면 다음의 2단계 프롬프팅을 추천합니다.
- 1단계 (추론): “질문에 대해 바로 답하지 말고, 논리적 순서에 따라 생각을 전개해 줘. 단계별로 시작해 보자.”
- 2단계 (결론): AI의 답변 뒤에 “따라서 최종 정답은:”이라고 덧붙여 결론만 요약하게 합니다.
업무 상황별 추천 트리거 문구
| 업무 상황 | 추천 트리거 문구 | 기대 효과 |
|---|---|---|
| 표준 문제 해결 | Let’s think step by step. | 논리적 단계 설정 |
| 논리 오류 검증 | Let’s think about this logically. | 객관성 확보 |
| 복잡한 프로젝트 | Let’s solve this by splitting it into steps. | 과제 세분화 |
| 현실적 제약 고려 | Let’s be realistic and think step by step. | 실행 가능성 증대 |
4. 논리적 근육을 키우는 ‘8의 법칙’ (Standard CoT)
가장 정석적인 방법은 질문-추론-답변이 포함된 예시를 직접 주는 것입니다.
- 스위트 스팟(Sweet Spot): 연구에 따르면 예시를 8개 내외로 제공했을 때 성능이 가장 좋습니다.
- 구조: 반드시 [전제 → 중간 논리 → 결론]의 흐름을 지켜야 합니다.
- 주의사항: 이 기법은 GPT-4나 Claude 3 같은 대형 모델(100B 이상)에서 효과가 극대화됩니다. 모델이 작으면 오히려 헷갈려할 수 있습니다.
AI는 도구가 아니라 ‘파트너’입니다
AI에게 무작정 결과를 내놓으라고 명령하는 건 효율적이지 않습니다. 대신 “이 문제를 어떤 단계로 해결하면 좋을까?”라고 물어보세요.
과정을 공유하고, 오답을 통해 주의를 주고, 다양한 상황을 제시할 때 AI는 비로소 단순 답변기가 아닌 ‘전략가’가 됩니다. 오늘 여러분의 복잡한 업무에 “Let’s think step by step” 한 줄을 더해보는 건 어떨까요? 그 작은 차이가 결과물의 수준을 결정합니다.
