生成AIのハルシネーションとは？　原因とリスク、対策を解説

生成AIは、学習時点までに存在していたデータをもとに動作しています。そのため、学習完了後に変更された法律、直近で発売された新製品、自社内にのみ存在する社内規定やローカルルールのような、学習データに含まれていない情報については、正確に回答できません。

 

しかし前述のとおり、生成AIは「わかりません」と答えることが苦手です。その結果、把握していない情報についても、学習データの中から関連しそうな情報を組み合わせ、「それらしい内容」を生成してしまいます。これがハルシネーションの典型的な発生パターンです。

 

特に、Web上に公開されていない情報について、汎用的な生成AIが学習している可能性は低いです。こうした情報を汎用型生成AIに尋ねるのは、ハルシネーションを引き起こすリスクが高い行為といえます。

質問内容が曖昧または抽象的な場合、生成AIは事実と異なる内容をもっともらしく生成してしまうことがあります。

 

たとえば「マーケティング施策を教えて」と質問した場合、前提条件や対象が示されていないため、生成AIは不足している情報を推測で補完しながら回答を構成します。その結果、「マーケティングでは必ずテレビCMと新聞広告を組み合わせることが重要です」といったように、特定の業界や時代に依存する誤った前提を、一般論として断定的に述べてしまうケースがあります。

 

このように、質問が曖昧なままだと、生成AIは事実確認ができない内容を推測で埋めてしまい、内容としては成立しているものの、明らかに誤った情報を含む回答が出力される可能性があります。

これは、生成AIの基本的な仕組みによるものです。生成AIは、大量のテキストデータを学習し、文脈に合った自然な言葉の並びを予測することに優れています。このため、会話は自然に感じられ、回答もそれらしく見えます。

 

一方で、この仕組みの中心は、事実を参照して正確に答えることではなく、統計的に自然な文章を組み立てる点にあります。たとえば、「〇〇という会社の代表取締役は誰ですか」という質問に対しても、必ずしも最新情報を検索して確認するわけではなく、学習パターンをもとに文章を生成します。その結果、実在しない人物名や古い情報が出力されることがあります。

 

なお、近年は検索機能と連携した生成AIもありますが、生成結果が常に外部情報で検証されているわけではありません。この前提を理解することが重要です。

 

生成AIが自信を持って回答しているように見えても、その内容が事実であるかどうかをAI自身が保証しているわけではありません。