ハルシネーション Hallucination

詳しい解説

ハルシネーション(幻覚)は、生成AIが事実に基づかない情報を、あたかも正しいことのように生成する現象です。存在しない判例や論文の引用、実在しない製品仕様の説明などが典型例です。AIは「もっともらしい続きの文章」を作る仕組みであるため、知らないことでも自然な文章で埋めてしまいます。RAG(検索拡張生成)で根拠情報を与える、出典の提示を必須にするなどで抑制できますが、完全にゼロにはできません。

なぜ重要か / 企業への影響

AIの回答を検証せずに顧客対応や契約文書、技術判断に使うと、誤情報に基づく実害や信用失墜につながります。「AIの出力は必ず人間が事実確認してから使う」を業務ルールとして明文化することが、生成AI導入時の基本の対策です。