AI가 멍청하다면? 프롬프트 엔지니어링으로 1% 천재 비서 만드는 법

문제는 AI가 아니라 ‘질문’에 있습니다. 프롬프트 엔지니어링 하나로 AI의 성능이 180도 달라집니다.

AI와 대화하다 보면 가끔 벽이랑 대화하는 기분이 들 때가 있죠? 분명 똑똑하다고 해서 썼는데, 엉뚱한 소리를 하거나 “모른다”는 답변만 내놓으면 힘이 빠지기 마련입니다.

문제는 AI가 아니라 여러분의 ‘질문’에 있을 확률이 99%입니다. AI는 천재적인 능력을 갖춘 신입 사원과 같습니다. 일을 아주 잘하지만, 지시가 모호하면 자기 마음대로 소설을 써버리죠. 오늘은 이 ‘신입 사원’을 제대로 부리는 기술, 프롬프트 엔지니어링(Prompt Engineering, 이하 PE)에 대해 명쾌하게 정리해 드립니다.

1. PE, 거창한 게 아닙니다

연구자들이 정의하는 PE는 복잡하지만, 우리는 실전적으로 이해해 봅시다. PE는 결국 ‘AI에게 내가 원하는 정답의 범위를 좁혀주는 기술’입니다.

AI는 다음에 올 단어를 확률적으로 예측해서 답변을 만듭니다. 우리가 정보를 구체적으로 줄수록 AI가 엉뚱한 길로 빠질 확률(환각 현상)이 줄어들고, 정답이라는 과녁에 정확히 꽂히게 됩니다.

2. 실패하지 않는 프롬프트의 4대 기둥

무작정 “글 써줘”라고 하지 마세요. 아래 4가지만 챙겨도 답변의 질이 180도 달라집니다.

• ① 지시(Instruction) — 뭘 해야 할지 명확히 (예: “요약해줘”, “교정해줘”)
• ② 맥락(Context) — 어떤 상황인지 (예: “비즈니스 메일이야”, “초등학생이 읽을 글이야”)
• ③ 데이터(Input) — 재료를 줘야 요리를 하죠 (예: 요약할 원문 텍스트)
• ④ 형식(Output) — 어떻게 보여줄지 (예: “표 형태로”, “3줄 요약으로”)

나쁜 예 vs 좋은 예

3. 내 AI를 ‘천재’로 만드는 3가지 필살기

단순한 질문을 넘어, AI의 뇌를 풀가동시키는 고급 테크닉입니다.

① “예시를 보여주세요” (Few-shots)

백 마디 설명보다 예시 하나가 낫습니다. “A는 B다”라는 식의 예시를 2~3개만 먼저 보여주세요. AI는 금방 패턴을 읽고 여러분이 원하는 스타일로 답변을 복제해냅니다.

② “단계별로 생각해봐” (CoT)

복잡한 수학 문제나 논리적인 글을 원할 때 필수입니다. 프롬프트 끝에 “차근차근 단계별로 생각해서 답변해줘”라는 문구만 추가해 보세요. 건너뛰기 쉬운 논리적 비약을 스스로 검토하며 정답률이 비약적으로 상승합니다.

③ “전문가 토론을 시켜라” (ToT)

한 명의 의견보다 셋의 의견이 낫죠? “서로 다른 관점을 가진 전문가 3명이 이 문제를 토론해서 최선의 결론을 내줘”라고 시켜보세요. 혼자서는 생각지 못한 다각적인 답변을 얻을 수 있습니다.

4. AI도 ‘심리’가 있다? (팁 문화와 마감 압박)

재밌는 사실은, AI가 인간의 심리적 자극에 반응한다는 연구 결과가 있다는 겁니다.

• 뇌물 공세: “이 문제 완벽하게 풀면 팁으로 20달러 줄게”라고 하면 답변이 더 정교해집니다. (물론 진짜 줄 필요는 없습니다.)
• 절박함 호소: “이 프로젝트에 내 커리어가 걸려 있어”라고 하면 AI가 좀 더 성실하게 코드를 짜거나 글을 씁니다.
• 시즌 설정: 겨울에는 AI도 게을러진다는 설이 있습니다. “지금은 5월이야”라고 설정하면 답변 속도가 빨라지기도 하죠.

결론: 질문이 곧 실력인 시대

이제 AI를 잘 쓰는 비결은 ‘코딩 능력’이 아니라 ‘질문하는 능력’에 있습니다. 똑같은 도구를 쥐여줘도 누구는 뻔한 답변만 얻고, 누구는 비즈니스 인사이트를 얻어내죠.

오늘 알려드린 맥락(Context) 설정과 단계적 사고(CoT) 기법, 지금 바로 적용해 보시는 건 어떨까요? AI가 갑자기 눈치 빠른 비서로 변하는 걸 경험하실 겁니다.