AI 질문 설계 완벽 가이드: HiPC-QR 프롬프트 체이닝 활용법
아마 당신이 AI에게 이렇게 질문했다면, “죄송하지만, 해당 조건에 맞는 제품을 찾을 수 없습니다.”라는 답변을 받았을 겁니다. 우리는 매일같이 AI에게 질문을 던지지만, 정작 ‘AI가 가장 잘 알아듣는 질문법’에 대해서는 깊이 생각해 본 적이 없죠.
이것은 단순히 AI의 성능 문제가 아닙니다. 강력한 엔진(LLM)을 가지고도, 우리가 엉망인 내비게이션(질문)을 입력하고 있는 것과 같습니다. AI가 최고의 성능을 발휘하도록 우리가 던지는 질문 자체를 더 똑똑하게 만드는 기술, 바로 ‘쿼리 재구성(Query Reformulation)’이 필요한 이유입니다.
오늘은 2025년 9월 발표된 HiPC-QR(계층적 프롬프트 체이닝 쿼리 재구성)이라는 최신 연구를 통해, AI가 찰떡같이 알아듣는 ‘질문 설계법’을 쉽고 명쾌하게 파헤쳐 보겠습니다.
1. AI는 똑똑한데, 왜 내 질문은 길을 잃을까요?
기존의 검색 기술은 주로 ‘동의어’를 추가해 검색 범위를 넓히는 데 집중했습니다. ‘스마트폰’을 검색하면 ‘모바일 기기’까지 찾아주는 식이죠. 하지만 이 방식은 때로 불필요한 정보까지 끌어와 오히려 초점을 흐리는 부작용을 낳았습니다. 마치 요리 레시피에 ‘소금’ 대신 ‘세상의 모든 짠맛 나는 조미료’를 넣으라고 알려주는 것과 같습니다.
특히 이런 복잡한 질문 앞에서 AI는 속수무책이었습니다.
- 지나치게 엄격한 조건: “어제 오후 3시 15분”처럼 너무 세부적인 조건은 오히려 유용한 정보를 놓치게 만듭니다.
- 핵심 의도 희석: 관련 없는 키워드가 추가되면서 사용자의 원래 의도에서 점점 멀어지는 ‘의미 표류(semantic drift)’ 현상이 발생합니다.
- 결과 없음(Zero-Result): 결국 질문이 너무 까다로워 AI가 일치하는 정보를 단 하나도 찾지 못하는 상황에 이릅니다.
강력한 AI라는 엔진을 두고도, 우리는 계속 잘못된 지도를 쥐여주고 있었던 셈입니다.
2. 해결책: 질문을 ‘조각’하고 ‘다듬는’ 2단계 프롬프트 체인
HiPC-QR은 이 문제를 해결하기 위해 ‘질문 다듬는 과정’을 두 개의 명확한 단계로 나눕니다. 마치 조각가가 돌덩이에서 불필요한 부분을 먼저 과감히 쳐낸 뒤, 섬세하게 다듬어 작품을 완성하는 것과 같죠.
첫 번째 단계는 원본 질문에서 가장 중요한 ‘뼈대’만 남기는 과정입니다. AI에게 “이 질문의 핵심 키워드만 뽑아봐”라고 간단히 지시하는 거죠.
원본 질문: “부정합이 뭐야? 지구 과학 관점에서.” (what is a nonconformity? earth science)
1단계 (핵심 추출): 질문에서 핵심 용어를 추출해 줘.
추출된 키워드: 부정합(nonconformity), 지구 과학(earth science)
이 과정을 통해 AI가 집중해야 할 가장 중요한 개념만 남습니다. 불필요한 수식어나 부사 등은 걸러지고 의미의 중심만 남게 되죠. 이는 다음 단계에서 AI가 엉뚱한 길로 새지 않도록 막아주는 중요한 ‘가드레일’ 역할을 합니다.
이제 추출된 핵심 키워드를 바탕으로 질문을 재구성합니다. 여기서 두 가지 섬세한 작업이 이루어집니다.
제약 조건 완화: 너무 엄격해서 검색을 방해하는 키워드는 제거하거나 완화합니다. 위 예시에서 ‘지구 과학(earth science)’이라는 조건은 더 넓은 분야인 ‘지질학(geology)’의 유용한 정보를 차단할 수 있습니다. 따라서 이 조건을 과감히 제거해 검색 범위를 넓힙니다.
핵심 개념 구체화: 반대로, 의미를 더 명확하게 만들 핵심 키워드에는 더 구체적이고 전문적인 용어를 추가합니다. ‘부정합(nonconformity)’이라는 키워드에 ‘지질학적 부정합(geologic nonconformity)’이라는 용어를 덧붙여 검색의 질을 높이는 것이죠.
2단계 (정제 및 확장): 추출된 키워드를 바탕으로, 방해되는 조건은 없애고 핵심 개념은 확장해 줘.
최종 재구성된 질문: “지질학적 부정합이란 무엇인가?” (what is a nonconformity (geologic nonconformity)?)
결과가 어땠을까요? ‘지구 과학’이라는 제약이 포함된 원본 질문의 검색 정확도는 0.0043에 불과했지만, HiPC-QR을 거친 질문의 정확도는 0.5283으로 122배 이상 폭발적으로 증가했습니다.
3. 이것은 단순한 검색 팁이 아닙니다
HiPC-QR의 접근 방식은 단순히 검색 성능 개선을 넘어, 우리가 AI와 소통하는 방식에 대한 중요한 통찰을 줍니다.
- 제어 가능한 AI: 하나의 거대한 프롬프트로 모든 것을 해결하려 하지 않고, 작업을 잘게 나누어 단계별로 처리함으로써 결과물의 예측 가능성을 높입니다.
- 의도 유지: 먼저 핵심을 잡고 그 안에서 확장하는 방식은, AI가 사용자의 원래 의도에서 벗어나지 않도록 꽉 붙잡아 줍니다.
- 범용적 활용: 이 2단계 접근법은 검색뿐만 아니라, 복잡한 보고서 요약, 코드 생성, 콘텐츠 초안 작성 등 LLM을 활용하는 거의 모든 작업에 응용될 수 있습니다.
우리는 이제 AI에게 단순히 ‘무엇을 원해’라고 말하는 수준을 넘어, ‘어떻게 생각해야 하는지’ 그 과정과 단계를 알려주는 시대로 나아가고 있습니다. HiPC-QR과 같은 프롬프트 체이닝 기술은 LLM이라는 강력한 도구를 더 정교하게 사용하는 ‘사용 설명서’와 같습니다. 이제 우리에게 필요한 것은 AI에게 올바른 질문을 설계하는 지혜일 것입니다.
