ハルシネーションとは
AIが事実でないことを、もっともらしい文章で答えてしまう現象。
英語表記：hallucination
ハルシネーションとは、AIが事実と異なる内容を、自信のある自然な文章で出力してしまうことです。日本語では「幻覚」と訳されます。
原因は、モデルが事実を調べているのではなく、文脈から次に来る語を予測しているためです。知らない事柄でも、それらしい形の文章は作れてしまいます。だからこそ、誤りが「間違っているように見えない」という厄介さがあります。
特に出やすいのは、固有名詞、数字、日付、出典です。存在しない論文やURLを作ることもあります。対処法はAIの答えを確かめる方法にまとめています。