Hallucination
LLM이 사실과 다르거나 근거가 없는 오류 정보를 마치 확신이 있는 것처럼 생성해내는 현상입니다.
사용자 신뢰·법적 책임·기업 도입까지 직접 영향을 주는 LLM의 핵심 실패 모드이기 때문이다.
환각은 0으로 만들 수 없다 — 검출·억제·UI 표시·인용·재시도 정책으로 다층 방어해야 한다.
프롬프트 한 줄 추가로 환각을 막을 수 있다고 믿는 것.
환각 대응은 prompt 문구가 아니라 retrieval grounding, citation, eval, UI 디자인이 결합된 product problem이다.