구글 OPRO 논문 분석: “심호흡 하세요”가 최고의 프롬프트가 된 이유

매일 챗GPT나 클로드와 씨름하며 더 나은 답변을 얻기 위해 프롬프트를 고치는 일, 정말 쉽지 않죠. 그런데 최근 구글 딥마인드에서 발표한 논문 하나가 이 판도를 뒤흔들고 있습니다.

사람이 머리를 싸매고 만든 프롬프트보다, AI가 스스로 찾아낸 엉뚱한 한 문장이 훨씬 더 강력한 성능을 냈다는 사실, 믿겨지시나요? 오늘 소개할 OPRO(Optimization by PROmpting) 논문을 통해, “Take a deep breath(심호흡 하세요)”라는 마법의 주문이 어떻게 탄생했는지, 그리고 앞으로 우리가 AI와 어떻게 일해야 하는지 그 비밀을 낱낱이 파헤쳐 드리겠습니다.

사람이 쓴 프롬프트 vs AI가 찾은 프롬프트: 승자는?

우리는 흔히 AI에게 논리적인 답변을 요구할 때 “Let’s think step by step(단계별로 생각해보자)”이라는 프롬프트를 사용합니다. 이 문장은 오랫동안 프롬프트 엔지니어링의 정석처럼 여겨져 왔습니다.

하지만 구글 딥마인드의 연구 결과는 충격적이었습니다. AI 모델(PaLM 2-L)에게 수학 문제(GSM8K)를 풀게 했을 때, 기존의 “Step by step” 프롬프트는 71.8점을 기록했습니다. 그런데 AI가 스스로 최적화하여 찾아낸 프롬프트를 적용하자 점수가 무려 80.2점으로 껑충 뛰었습니다.

그 마법의 프롬프트는 바로 이것이었습니다.

“Take a deep breath and work on this problem step-by-step.”
(심호흡을 하고, 이 문제를 단계별로 풀어보세요.)

마치 시험장에 들어가는 학생에게 선생님이 해줄 법한 이 따뜻한 조언이, 기계적인 지시어보다 AI의 추론 능력을 더 극대화했다는 것입니다. 도대체 AI는 어떻게 이런 문장을 찾아냈을까요? 이것이 바로 오늘 다룰 OPRO 기술의 핵심입니다.

OPRO(Optimization by PROmpting)란 무엇인가?

OPRO는 쉽게 말해 “LLM(거대언어모델)을 최적화 도구(Optimizer)로 사용하는 방법”입니다. 보통 ‘최적화’라고 하면 복잡한 수학 공식이나 미분(Gradient)을 떠올리기 쉽습니다. 하지만 OPRO는 우리가 쓰는 자연어(Natural Language)로 최적화 문제를 기술하고, LLM에게 “더 나은 답을 찾아줘”라고 요청합니다.

OPRO의 작동 원리: 메타 프롬프트의 마법

OPRO가 작동하는 방식은 마치 ‘프롬프트 컨설턴트’를 고용한 것과 비슷합니다. 이를 위해 메타 프롬프트(Meta-prompt)라는 특별한 구조를 사용합니다.

• 과거의 기록 (Optimization Trajectory): “이전에 썼던 프롬프트 A는 60점이었고, B는 70점이었어.”라고 AI에게 알려줍니다.
• 문제 설명 (Task Description): “우리의 목표는 수학 문제의 정답률을 높이는 새로운 프롬프트를 만드는 거야.”라고 지시합니다.
• 새로운 제안 (Generation): 그러면 AI(Optimizer LLM)는 과거의 성공과 실패 데이터를 분석해서, “그럼 이번에는 C라는 표현을 써보는 게 어때?”라고 새로운 프롬프트를 생성합니다.

이 과정을 반복하면(Iterative Process), AI는 점점 더 점수가 높은 ‘황금 프롬프트’를 향해 나아가게 됩니다.

왜 ‘과거의 기록(Trajectory)’이 중요한가?

OPRO의 가장 큰 특징은 단순히 무작위로 문장을 뱉어내는 것이 아니라, 최적화 궤적(Optimization Trajectory)을 활용한다는 점입니다.

만약 여러분이 산 정상(최고의 프롬프트)을 찾아간다고 가정해 봅시다.

• 기존 방식: 눈을 가리고 아무 곳이나 찍어서 이동합니다. (무작위 탐색)
• OPRO 방식: “아까 동쪽으로 갔더니 높이가 낮아졌고, 서쪽으로 갔더니 높아졌네? 그럼 서쪽으로 더 가보자!”라고 판단합니다.

논문의 실험에서도 이 궤적 정보가 있을 때 AI가 훨씬 더 빠르게, 그리고 정확하게 고성능 프롬프트를 찾아내는 것을 확인할 수 있었습니다. 점수가 낮은 프롬프트부터 높은 프롬프트까지 순서대로 보여주면, LLM은 그 패턴을 읽고 더 나은 방향을 제시합니다.

압도적인 성능: 숫자로 증명하다

구글 딥마인드 연구진은 GSM8K(수학)와 BBH(Big-Bench Hard, 추론)라는 벤치마크를 통해 OPRO의 성능을 검증했습니다. 결과는 놀라웠습니다.

GSM8K (초등학교 수학 문제)

• 사람이 만든 최고 프롬프트(“Let’s think step by step”): 71.8%
• OPRO가 만든 최고 프롬프트(“Take a deep breath…”): 80.2%

무려 8% 이상의 성능 향상을 기록했습니다.

BBH (복합 추론 문제)

OPRO는 사람이 설계한 프롬프트보다 최대 50% 이상 성능을 높였습니다. 특히 ‘영화 추천(Movie Recommendation)’이나 ‘유머 이해(Snarks)’ 같은 창의적이고 미묘한 작업에서도 압도적인 성능을 보였습니다.

재미있는 점은 AI가 찾아낸 프롬프트의 스타일입니다. 어떤 모델은 “심호흡 하세요” 같은 감성적인 문장을, 또 어떤 모델(GPT-4 등)은 “논리적이고 분석적으로 접근해라” 같은 길고 상세한 지시를 선호했습니다. 모델마다 ‘취향’이 다르다는 것이죠!

우리가 배울 수 있는 점: 프롬프트 엔지니어링의 미래

이 논문이 우리에게 시사하는 바는 매우 큽니다. 이제 프롬프트 엔지니어링은 ‘작성(Writing)’의 영역에서 ‘평가(Evaluation)’와 ‘선택(Selection)’의 영역으로 넘어가고 있습니다.

실무에 바로 적용하는 OPRO 인사이트

• 한 가지 프롬프트에 집착하지 마세요: “Step by step”이 항상 정답은 아닙니다. AI에게 다양한 페르소나와 지시어를 시도하게 하세요.
• 예시(Exemplar)는 다다익선이 아니다: 논문에서는 3~5개의 적절한 예시만 있어도 충분하다고 말합니다. 너무 많은 예시는 오히려 AI를 혼란스럽게 할 수 있습니다.
• AI에게 ‘성적표’를 보여주세요: 프롬프트를 개선하고 싶다면, 이전 프롬프트가 어떤 결과를 냈는지(성공/실패 사례)를 AI에게 다시 입력으로 넣어보세요. AI는 그 피드백을 통해 스스로 진화합니다.

마치며: AI와 함께 호흡하는 법

“Take a deep breath.”

어쩌면 이 프롬프트는 AI가 우리에게 건네는 말일지도 모릅니다. 복잡한 문제를 해결하려고 끙끙대기보다, 한 템포 쉬어가며 넓은 시야를 가질 때 더 좋은 답이 나온다는 것을 AI도 알고 있었던 걸까요?

OPRO는 AI가 단순한 도구를 넘어, 스스로를 개선하는 능동적인 파트너가 될 수 있음을 보여주었습니다. 여러분도 오늘 업무에서 AI에게 딱딱한 지시 대신, “심호흡 한번 하고 같이 해결해볼까?”라고 말을 건네보는 건 어떨까요? 의외의 엄청난 결과를 가져다줄지도 모릅니다.