用語集約4分

ハルシネーションとは？AIがもっともらしい誤りを出すことをやさしく解説

「自信たっぷりなのに、間違っている」とき

AIが教えてくれた関数を使おうとしたら、そんな関数は存在しなかった。それらしい仕様を説明されたのに、公式ドキュメントには載っていなかった。 しかもAIの口ぶりは自信満々。この「もっともらしいのに間違っている」現象を、ハルシネーションと呼びます。

ハルシネーションとは？ひとことで言うと

ハルシネーションは、AIが事実と違うことを、さも正しいかのように出してしまう現象です。ざっくり言うと、AIの「もっともらしい作り話」です。 AIは「次に来そうな言葉」を組み立てて答えるのが得意なので、答えが分からないときでも、それらしい文章を作ってしまうことがあります。嘘をつこうとしているわけではなく、仕組み上どうしても起こり得るものです。

AIが事実と違うことを自信たっぷりにもっともらしく答えてしまうハルシネーションを、自信満々な説明と食い違う事実の対比で表したイラスト
ハルシネーションは「もっともらしい作り話」。AIは自信満々でも、内容が事実と違うことがある

開発現場ではどこで使う？

ハルシネーションは「使う」言葉ではなく「警戒する」言葉ですが、現場ではこんな形で現れます。

なぜ大事なのか

ハルシネーションが起こり得ると知っているだけで、AIの答えに対する付き合い方が変わります。「便利な相談相手だが、答えは確かめる」という前提を持てます。 これを知らずに鵜呑みにすると、間違ったコードや仕様を取り込んでしまい、後工程でのやり直しや不具合につながりかねません。知っていることが、そのまま安全策になります。

具体例で見る

AIに「この処理に使える標準ライブラリの関数は？」と聞くと、それらしい名前の関数を自信を持って教えてくれることがあります。 ところが公式リファレンスを開くと、その関数は存在しない——というのは珍しくありません。AIの答えは出発点として使い、最終確認は公式ドキュメントや実際に動かして取る、という流れが安全です。

つまり現場では？

ハルシネーションを前提にするということは、AIの答えを「下書き」として受け取り、正しさのチェックは人が握る、という運用にすることです。これは編集部の方針とも重なる、堅実な使い方です。

知らないとどう困る？

ハルシネーションを知らないと、AIの自信ありげな口調を信頼の根拠だと勘違いしてしまいます。AIは間違っているときも自信満々なので、口調は当てになりません。 確認の習慣がないまま使うと、誤った情報が成果物に紛れ込み、気づくのが遅れるほど直す手間が大きくなります。

よくある勘違い

明日やるならこれ

AIに技術的な事実（関数名・仕様・設定値など）を教わったら、そのうち1つだけでいいので、公式ドキュメントで裏を取る習慣をつけてみましょう。「答えは確かめる」を1回やるだけで、リスクの感覚が身につきます。

ひとことで言うと

ハルシネーションとは、AIがもっともらしく間違える現象で、確認を前提に付き合うものです。

関連用語

関連記事