生成AIの「ハルシネーション」とは。嘘の情報を見抜く3つのチェックポイント

AIに質問したら、それらしい口調で、でもよく調べたら間違っていた回答が返ってきた、という経験はないでしょうか。

この現象は「ハルシネーション」と呼ばれ、生成AIを使う上で必ず知っておきたい特性のひとつです。

この記事では、ハルシネーションとは何か、そして嘘の情報を見抜くためのチェックポイントを紹介します。

ハルシネーションとは何か

ハルシネーションとは、AIが事実とは異なる情報を、あたかも事実であるかのように自信を持って回答してしまう現象のことです。

存在しない書籍を紹介したり、実在しない統計データを挙げたりするケースが典型例として知られています。

生成AIは、学習したデータのパターンから「もっともらしい文章」を組み立てる仕組みで動いています。

そのため、正確な事実を答えることよりも、文章として自然であることを優先してしまう場合があり、結果として誤情報が紛れ込むことがあります。

「分からない場合は分からないと答えてください」と事前に伝えておくと、無理に答えを作り出す頻度を減らせる場合があります。

出典付きで回答してくれるタイプのAIツールを使うことも、情報の裏付けを取りやすくする有効な方法です。

存在しない書籍のタイトルと著者名を、実在する本であるかのように詳しく紹介されたという報告は、よく見られる典型例のひとつです。

過去の統計データについて質問した際に、実際の数値とは異なる、もっともらしい数字が返ってきたという事例も報告されています。

資料や提案書にAIの回答をそのまま引用すると、誤情報が社外の資料にまで広がってしまうリスクがあります。

数字や固有名詞を含む内容を社外に出す前には、必ず一次情報にあたって裏付けを取る工程を、社内のルールとして定めておくと安心です。

こうした質問をする際は、回答をそのまま信じるのではなく、裏付けを取る前提で参考程度に受け止める姿勢が大切です。

Q. ハルシネーションはどのAIでも起こりますか?
A. 程度の差はありますが、現在の生成AI全般で起こりうる現象です。

Q. 重要な調べ物にAIを使わない方がいいですか?
A. 使うこと自体は問題ありませんが、重要な情報は必ず一次情報で裏付けを取りましょう。

Q. 今後この問題は解決されますか?
A. 技術の進化とともに減少傾向にありますが、完全になくなるとは言い切れません。

Q. 学校の課題でAIを使う場合、何に気をつければいいですか?
A. AIが挙げた出典や引用は、必ず自分で実在を確認してから使うようにしましょう。

Q. ハルシネーションだと気づいたときはどうすればいいですか?
A. 「その情報の出典はどこですか」とAIに聞き返すと、誤りに気づきやすくなります。

AIの回答を鵜呑みにせず、「本当かな」と一呼吸置く習慣を持っておくと安心です。