AI를 쓰다 보면 한 번쯤 이런 생각이 듭니다.
“이 답변, 진짜 맞는 건가?”
저 또한 그랬습니다. 그리고 실제로 틀린 답변을 받은 경험이 있습니다.
이 글은 그 경험을 솔직하게 공유하고, 제가 찾은 해결 방법을 정리한 글입니다.
AI 할루시네이션이란?
AI 할루시네이션(Hallucination)이란, AI가 사실이 아닌 내용을 마치 사실인 것처럼 자신 있게 답변하는 현상입니다.
AI는 인터넷에서 수집한 방대한 데이터를 기반으로 학습하지만,
모든 질문에 대한 정확한 데이터를 가지고 있는 건 아닙니다.
그럼에도 AI는 “모른다”고 말하는 대신, 그럴듯한 답변을 추론해서 내놓습니다.
이게 바로 할루시네이션입니다.
내가 직접 겪은 할루시네이션 경험
평소처럼 개발을 하던 중이었습니다.
DB 테이블 설계를 하다가 고민이 생겼습니다.
“이 데이터를 컬럼으로 만들어서 수집해야 할까? 아니면 굳이 안 해도 될까?”
실무에서는 어떻게 하는지 궁금해서 Claude에게 물어봤습니다.
당연히 Claude가 실제 사례 데이터를 바탕으로 답변해줄 거라고 생각했습니다.
Claude의 답변은 이랬습니다.
“이 정도 데이터는 실무에서 보통 저장하지 않습니다.”
왠지 느낌이 좋지 않았습니다. 직감적으로 이상했습니다.
그래서 다시 물었습니다.
“이건 중요한 데이터 아닌가요? 실제 사례를 들어서 설명해줘.
그리고 모르는 건 모른다고 해줘.”
그러자 Claude가 이렇게 답했습니다.
“사실 이 부분에 대해 정확하게 알려진 정보가 없습니다.
제가 추측해서 답변한 것입니다. 죄송합니다.”
처음부터 그렇게 말해줬어야 했는데.
이게 바로 AI 할루시네이션이라는 걸 그때 처음 체감했습니다.
왜 이런 일이 생길까?
AI는 기본적으로 질문에 대한 답을 생성하도록 설계되어 있습니다.
“모르겠다”는 답은 AI 입장에서 어색한 반응입니다.
특히 다음 상황에서 할루시네이션이 자주 발생합니다.
- 정확한 정보가 없는 니치한 질문을 할 때
- 실무 관행, 내부 기준 같은 비공개 정보를 물어볼 때
- “보통 어떻게 하나요?” 같은 모호한 질문을 할 때
내가 찾은 해결 방법
1. AI에게 모든 판단을 맡기지 않는다
AI는 참고 자료입니다. 최종 결정은 내가 합니다.
이 마인드셋 하나가 할루시네이션 피해를 크게 줄여줬습니다.
2. 비교형 질문을 사용한다
애매한 질문 대신, 이렇게 묻습니다.
“A 방법과 B 방법 중 어떤 게 더 나은지 비교해줘.
모르는 부분은 ‘모른다’고 하고, 개발자에게 확인이 필요한 사항은 따로 표시해줘.”
AI가 직접 결론을 내리는 게 아니라, 비교 데이터를 제공하게 만드는 것입니다.
그 데이터를 보고 최종 판단은 내가 합니다.
3. 공식 문서를 직접 확인한다
AI 답변이 미심쩍을 때는 공식 문서를 찾아봅니다.
또는 Claude에게 공식 문서 링크를 직접 넘겨주고 이렇게 말합니다.
“이 공식 문서를 참고해서 답변해줘.”
이렇게 하면 AI가 문서 내용을 기반으로 답변하기 때문에 훨씬 신뢰도가 높아집니다.
4. CLAUDE.md에 규칙을 설정한다
Claude Code를 사용한다면, CLAUDE.md 파일에 아래와 같은 규칙을 추가하는 걸 추천합니다.
## AI 답변 규칙
- 확실하지 않은 정보는 반드시 "추측입니다" 또는 "불확실합니다"라고 명시한다.
- 모르는 내용은 "모른다"고 답한다. 추측으로 답변하지 않는다.
- 실무 관행이나 사례를 물어볼 때, 데이터가 없으면 없다고 말한다.
- 결정이 필요한 사항은 개발자에게 확인을 요청한다.이 규칙 하나로 할루시네이션 답변이 눈에 띄게 줄었습니다.
결과적으로 어떻게 달라졌나
- AI의 추측성 답변이 줄었습니다
- 비교형 질문을 통해 내가 직접 판단하는 습관이 생겼습니다
- 모르는 부분은 공식 문서와 웹 서치를 통해 직접 찾아보게 됐습니다
- 덕분에 개발 지식과 경험이 더 많이 쌓였습니다
AI를 100% 믿는 것도, AI를 전혀 안 쓰는 것도 정답이 아닙니다.
AI를 도구로 활용하되, 판단은 내가 하는 것. 그게 핵심입니다.
이 글을 읽는 분께
AI를 쓰다가 뭔가 이상하다는 느낌이 든다면, 그 직감을 믿어보세요.
그리고 한 번 더 물어보세요.
“모르는 건 모른다고 해줘.”
이 한 마디가 생각보다 많은 걸 바꿔줍니다.
