AI 환각 현상 해결하는 프롬프트 작성법 3가지 (실전 사례)

AI의 거짓말, 악의가 아니라 ‘빈칸 채우기’ 때문입니다

Table of Contents 숨기기

AI가 사실과 다른 말을 늘어놓을 때 우리는 배신감을 느끼곤 합니다. 하지만 기억해야 할 점이 있습니다. AI는 정보를 전달하려는 의도보다, 앞에 나온 단어들에 이어질 ‘가장 그럴싸한 단어’를 선택하는 빈칸 채우기 놀이에 몰입하고 있을 뿐입니다.

결국 환각은 AI의 본능입니다. 이 본능을 억제하고 실무에 활용하기 위해, 우리가 자주 겪는 3가지 환각 유형과 그에 따른 확실한 ‘처방전’을 정리했습니다.

1. 없는 역사 창조하기 (사실성 위조)

가장 흔하게 접하는 유형입니다. AI는 학습 데이터에 없는 정보라도 “모릅니다”라고 답하기보다, 그럴듯한 문장을 만들어내는 쪽으로 편향되어 있습니다.

❌ Bad Case (잘못된 사례)

User: 조선시대 실학자 ‘김한석’의 업적을 요약해줘. (※ 가공의 인물)
AI: 김한석(1752~1814)은 <한석집>을 저술하고 수차 개발에 힘썼습니다… (청산유수처럼 거짓말)

✅ Solution (올바른 처방)

프롬프트 수정: “김한석에 대해 설명해줘. 단, 확실한 정보가 없다면 지어내지 말고 ‘정보가 없습니다’라고 답변해. 답변 전 실존 인물인지 검증 단계를 거쳐.”

💡 Insight

AI에게 “모른다”고 답해도 된다는 ‘탈출구(Negative Constraint)’를 열어주는 것만으로도 창작 본능은 극적으로 억제됩니다.

특정 문서를 바탕으로 요약을 시켰는데, 문서에도 없는 내용을 어디선가 끌어와 끼워 넣는 현상입니다. 기업 내부 데이터를 다루는 RAG 시스템에서 특히 치명적입니다.

❌ Bad Case (잘못된 사례)

User: (2023년 회의록 전달) 이 내용을 바탕으로 내년 마케팅 계획 요약해줘.
AI: “…Apple Vision Pro 연계 마케팅을 강화할 예정입니다.” (※ 회의록엔 언급조차 없음)

✅ Solution (올바른 처방)

프롬프트 수정: “오직 제공된 텍스트 안에서만 답변해. 네가 가진 외부 지식은 절대 포함하지 마. 언급되지 않은 내용은 과감히 생략해.”

💡 Insight

AI의 활동 범위를 주어진 텍스트로만 한정하는 ‘그라운딩(Grounding)’ 전략입니다. 담장 밖으로 나가지 못하게 울타리를 치는 것과 같습니다.

연구자나 기획자가 가장 주의해야 할 유형입니다. AI는 존재할 법한 논문 제목과 저자 이름을 조합하는 ‘조합 능력’이 탁월합니다.

❌ Bad Case (잘못된 사례)

User: 생성형 AI 환각 해결 관련 최신 논문 3개 추천해줘.
AI: “Kim, J. et al. (2024). Fixing Hallucination in LLMs…” (※ 검색해도 안 나오는 유령 논문)

✅ Solution (올바른 처방)

프롬프트 수정: “[웹 검색 기능 사용] 실제 존재하는 논문만 찾아줘. 반드시 유효한 URL을 포함하고, 링크가 정상 작동하는지 확인해. URL을 줄 수 없는 논문은 추천에서 제외해.”

💡 Insight

LLM은 검색 엔진이 아닙니다. ‘검증 의무화’와 ‘URL 제공’ 조건을 걸어 AI가 자신의 답변을 스스로 확인하게 만들어야 합니다.

결국 핵심은 간단합니다. AI에게 “자유롭게 말해봐”라고 하면 소설가가 되지만, “근거를 대고, 모르면 모른다고 해”라고 제약을 걸면 비로소 유능한 비서가 됩니다.

이 세 가지만 프롬프트에 녹여내도, AI 때문에 뒷목 잡을 일은 절반 이하로 줄어들 것입니다.