一言でいうと
ハルシネーションとは、AIが事実でないことをもっともらしく答えてしまう現象のことです。日本語では「幻覚」と訳されます。
もう少し詳しく
生成AIは「言葉のつながりとして自然かどうか」を予測して文章を作ります。事実かどうかを確認しているわけではありません。そのため、存在しない書籍名、実在しない統計、間違った日付や人名などを、自信のある文体で書いてしまうことがあります。
よくある例
- 存在しない論文や書籍を「出典」として挙げる
- 実在する企業の、実在しないサービス名を答える
- 料金や数値を、実際とは違う数字で答える
- 日本の制度・法律・地名について、事実と異なる説明をする
対策
- 数値・固有名詞・日付・法律は、必ず公式情報で確認する
- 「出典を教えて」と聞き、そのリンクを自分で開いて確かめる
- Web検索機能を使わせる（最新情報や事実確認に強くなります）
- 重要な業務では、AIの答えを下書きとして扱い、人が最終確認する
関連する言葉
「ハルシネーション」に関する記事をもっと読む
ハルシネーションの記事一覧を見る →
コメント