Claude를 비롯한 AI는 똑똑하지만, 가끔 사실이 아닌 내용을 "그럴듯하게" 만들어 냅니다. 이를 환각(할루시네이션)이라고 합니다. 완전히 없앨 수는 없지만, 몇 가지 습관만으로도 크게 줄일 수 있습니다. 아래 6가지 방법을 소개합니다.
환각이란 무엇인가
환각은 AI가 모르거나 학습하지 못한 내용을 마치 사실인 것처럼 자연스럽게 만들어내는 현상입니다. 문장이 매끄럽기 때문에 틀린 줄 모르고 믿기 쉽습니다. 그래서 "그럴듯함"과 "정확함"은 다르다는 점을 늘 의식해야 합니다.
1. 출처를 함께 요청하기
"근거나 출처를 함께 알려줘"라고 요청하면 AI가 주장의 바탕을 제시하게 되어 검증이 쉬워집니다. 출처를 대지 못하면 그 내용은 의심해야 합니다.
2. 자료를 직접 주고 그 안에서만 답하게 하기
요약하거나 분석할 자료가 있다면 본문을 직접 붙여넣고 "첨부한 내용에서만 답하고, 없으면 없다고 해줘"라고 지시하세요. AI가 기억에 의존해 지어낼 여지가 줄어듭니다(이를 근거 기반, 그라운딩이라고 합니다).
3. 모르면 모른다고 하라고 명시하기
많은 환각은 AI가 "모른다"고 말하는 대신 억지로 답을 만들 때 생깁니다. "확실하지 않으면 모른다고 솔직히 말해줘"라는 한 문장이 큰 차이를 만듭니다.
4. 사실·추정·불확실을 구분해 달라고 하기
"확인된 사실과 추측을 구분해서 표시해줘"라고 요청하면 어디까지 믿을 수 있는지 한눈에 보입니다.
5. 단계별 근거를 펼치게 하기
복잡한 답은 "어떻게 그 결론에 도달했는지 단계별로 설명해줘"라고 하면, 중간의 비약이나 오류가 드러나 검증하기 쉬워집니다.
6. 중요한 내용은 사람이 교차 확인하기
의료·법률·금융·숫자처럼 중요한 정보는 AI의 답을 그대로 쓰지 말고, 원문이나 신뢰할 수 있는 2차 출처와 반드시 대조하세요. 최종 책임은 사람에게 있습니다.
마무리
환각을 100% 막는 마법은 없습니다. 하지만 출처 요청 → 자료 제공 → "모르면 모른다" → 사실·추정 구분 → 단계별 근거 → 사람의 교차 확인, 이 습관을 더할수록 AI의 답을 훨씬 안전하게 쓸 수 있습니다.