データに基づいてトレーニングされる AI モデルは、データのパターンを検出することで予測することを学習します。ただし、こうした予測の精度は、トレーニング データの品質と完全性に左右されることが多いものです。トレーニング データが不完全な場合や、トレーニング データにバイアスなどの欠陥がある場合、AI モデルが適切なパターンを学習できず、不正確な予測やハルシネーションが生じるおそれがあります。
たとえば、医療画像のデータセットに基づいてトレーニングされた AI モデルは、がん細胞を識別するように学習するかもしれません。しかし、データセットに正常組織の画像が含まれていない場合、AI モデルは正常組織ががんであると誤って予測する可能性があります。
トレーニング データの欠陥は、AI のハルシネーションが発生する理由の一つにすぎません。考えられるもう一つの要因は、適切なグラウンディングの欠如です。AI モデルにおいて、現実世界の知識、物理的特性、事実情報を正確に理解することが難しい場合があります。このようなグラウンディングがないと、一見もっともらしく見えるものの、実際には事実と反する出力、無関係な出力、意味をなさない出力が生成される原因となります。存在しないウェブページへのリンクが作成されることもあります。
例として、ニュース記事の要約を生成するように設計された AI モデルが、元の記事にはない詳細情報を含む要約を生成したり、完全に偽の情報を生成したりすることが挙げられます。
AI モデルを扱うデベロッパーにとって、AI のハルシネーションの潜在的な原因を理解することは重要です。デベロッパーは、トレーニング データの品質と完全性を慎重に考慮し、適切なグラウンディングを行うようにすることで、AI のハルシネーションのリスクを最小限に抑え、モデルの精度と信頼性を確保できます。
