RAG環境において、大規模言語モデルが事実と異なる内容を生成するハルシネーションは、正確性が求められる分野で深刻なリスクとなる。従来の検出手法は、モデルの内部信号（不確実性など）や、回答・文単位といった粗い粒度での判定に依存することが多い。そのため、検索された根拠文脈が存在する場合でも、個別のエンティティ（固有名詞、日付、数値など）レベルでの詳細な事実誤認を特定したり、根拠との整合性を追跡したりすることが困難であるという課題がある。
従来の回答・文単位の判定に対し、エンティティに焦点を当てた検証フレームワークを導入し、RAGにおけるハルシネーション検知をエンティティと根拠のアライメント問題として定式化した点が新規である。また、単なる語彙の一致による偽の相関を排除するため、根拠に摂動を加える反事実的安定性分析を組み込み、真の事実的裏付けと表面的な一致を区別可能にした。
生成された回答からエンティティ候補を抽出し、検索された根拠から関連する証拠ウィンドウを選択する。次に、以下の3つの次元でアライメントを評価する。
1. 同一性アライメント：語彙や別名による直接的な一致を確認する。
2. 意味アライメント：埋め込みベクトルを用いて、言い換えなどの意味的な保持を確認する。
3. 一貫性アライメント：数値の重複や、パターンに基づく矛盾の検出を行う。
これらに加え、根拠に制御された摂動を与えても整合性が維持されるかを検証する反事実的安定性分析を行い、頑健性を評価する。最後に、これらの信号を教師信号として用いてLLMをファインチューニングし、エンティティに検証タグを付与できる単一の検証器を構築する。
RAGTruth、HotpotQA、DelucionQAの3つのベンチマークを用い、Qwen2.5-7B、LLaMA2-7B、LLaMA2-13Bをバックボーンとして評価した。AUROC、Accuracy、F1スコアを指標とし、TSVを含む複数の手法と比較した結果、LLaMA2-13Bにおいて87.55%の平均AUROCを達成し、最強のベースラインであるTSVを3.34パーセントポイント上回った。アブレーション研究により、反事実的安定性分析が偽の相関を区別するために最も大きく貢献すること、および回答側のウィンドウサイズは30トークンで最適であることを確認した。
本手法は検索された文脈のみに依存する検証フレームワークであるため、検索される根拠情報の質や網羅性が低い場合には、検出性能が制限される。また、複雑な多段階推論を必要とするクエリでは、モデルの出力自体が不安定になる可能性がある。さらに、本研究はハルシネーションの検知に特化しており、生成プロセスそのものを抑制する手法には直接対処していない点が今後の課題である。
本研究では、検索拡張生成（RAG）を用いてハルシネーションを検知するRAGベースのハルシネーション検知（RHD）という課題に対し、Evidence-Aligned Entity Verification（EAEV）という新しい手法を提案している。EAEVは、生成されたエンティティが検索された根拠となる文脈と整合しているかを検証することで、エンティティレベルのハルシネーションを検出する。具体的には、エンティティと根拠の整合性を3つの補完的な次元から評価し、さらに根拠となる情報に摂動を加えた際の変化を確認する反事実的安定性分析を導入することで、検知の堅牢性を確保している。複数のRAGベンチマークを用いた実験の結果、EAEVは既存手法と比較して一貫した性能向上を示し、高い汎化性能を持つことが示された。
大規模言語モデルが事実と異なる内容を生成するハルシネーションは、医療や金融などの正確性が求められる領域において深刻なリスクとなります。既存の検出手法には、モデル内部の信号を利用する不確実性や一貫性に基づくものと、自然言語推論モデルやLLMを用いて提供されたテキストとの整合性を確認する根拠に基づく検証がありますが、RAG（検索拡張生成）環境においては、回答や文単位の粗い粒度での判定に留まることが多く、個別のエンティティ（実体）レベルでの詳細な根拠の追跡が困難であるという課題があります。本研究では、検索された文脈内のエンティティと根拠を直接照合する、Evidence-Aligned Entity Verification（EAEV）を提案します。EAEVは、エンティティの同一性、意味、および一貫性の多角的な整合性に加え、反事実的な安定性分析を組み合わせることで、表面的なキーワードの一致による誤った相関と、真の事実的裏付けを区別します。実験の結果、EAEVはLLaMA2-13Bにおいて87.89%のAUROCを達成し、複数のRAGベンチマークにおいて高い検出性能と汎用性を示すことが確認されました。
RAG（検索拡張生成）におけるハルシネーション検出は、生成された回答と検索された文脈との間の明示的な整合性を評価することを目指します。本研究では、事実誤認が主に固有名詞、時間表現、数値などのエンティティ（実体）レベルで発生するという洞察に基づき、エンティティ中心の検証フレームワークを構築しています。具体的には、生成された回答から候補となるメンションを抽出し、検索された文脈から関連性の高い証拠ウィンドウを選択した上で、表面的な一致を測る同一性整合、意味の保持を捉える意味整合、および数値的な一致や矛盾を評価する整合性の3つの観点から検証を行います。さらに、単なる相関関係と強固な証拠を区別するために、摂動セットを用いた反事実的安定性分析を適用します。最終的に、これらのメンションを正規化して集約することで、証拠の追跡可能性を備えた解釈可能な検証スコアを算出します。
EAEVは、検索拡張生成（RAG）におけるハルシネーションを、文単位ではなくエンティティ（固有名詞、日付、数値など）単位で精密に検出する手法である。本手法は、生成された回答内のエンティティ候補を抽出し、それらと検索された根拠文書との整合性を、同一性、意味、一貫性の3つの次元で評価する多次元アライメント評価を行う。同一性は語彙の重なりを、意味は埋め込みベクトルによる意味的類似度を、一貫性は数値の重複やパターンに基づく矛盾検知を測定し、エンティティの型に応じてこれらを重み付けして統合する。さらに、表面的なキーワードの一致による誤検出を防ぐため、根拠の削除や書式の変更といった制御された摂動を与えても整合性が維持されるかを検証する反事実的安定性分析を導入している。複数の言及があるエンティティに対しては、最も強い支持信号と最も強い矛盾信号を保守的に集約してエンティティレベルの判定を下す。最終的に、これらの詳細な検証信号を教師信号として用いて大規模言語モデルをファインチューニングすることで、エンティティに検証タグを付与しながら回答を生成できる、解釈性の高い単一の検証器を構築する。
提案手法であるEAEVの評価は、RAGTruth、HotpotQA、DelucionQAの3つのベンチマークを用い、Qwen2.5-7B、LLaMA2-7B、LLaMA2-13Bの3種類のLLMをバックボーンとして実施されました。評価指標にはAUROC、Accuracy、F1スコアが用いられ、TSVを含む多数のハルシネーション検出手法と比較されました。実験の結果、EAEVはQwen2.5-7Bで84.72%、LLaMA2-7Bで79.63%、LLaMA2-13Bで87.55%の平均AUROCを達成し、最強のベースラインであるTSVをそれぞれ2.29、2.59、3.34パーセントポイント上回りました。アブレーション研究では、反事実的な安定性分析が最も大きな貢献をしており、偽の相関と真の根拠による支持を区別するために不可欠であることが示されました。また、回答側のウィンドウサイズに関する感度分析では、30トークンのウィンドウサイズで最適な性能が得られ、25から35トークンの範囲内で安定した性能を維持することが確認されました。
本研究では、検索拡張生成（RAG）システムにおける事実に基づいた信頼性を確保するため、エンティティ単位での検証を行うフレームワークであるEAEVを提案する。EAEVは、多角的な証拠との整合性確認と反事実的な安定性分析を用いることで、生成された内容が単なる偽の相関によるものか、あるいは真の事実的裏付けに基づいているかを区別する。実験の結果、EAEVは様々なベンチマークやモデルアーキテクチャにおいて、ハルシネーション検出能力を大幅に向上させることが示された。この手法は、検索されたコンテキスト内のみで動作し、解釈可能な検証信号を生成するため、実用的なRAGパイプラインへの導入に適している。以上の結果は、堅牢なエンティティレベルの検証が、証拠に基づいた生成システムにおけるハルシネーション検出を改善するための実用的かつ効果的な方向性であることを示している。
提案手法であるEAEVは、RAGにおけるハルシネーション検出において高い有効性を示すものの、いくつかの限界がある。第一に、大規模言語モデルの出力は実行ごとに不安定になることがあり、特に多段階の推論を必要とする複雑なクエリにおいてその傾向が顕著になる。第二に、本手法は検索された文脈のみに基づく検証フレームワークであるため、検索される根拠情報の質や網羅性に依存しており、情報の欠落や不完全さが検出性能を制限する可能性がある。最後に、本研究は正確かつ解釈可能なハルシネーション検出に焦点を当てており、生成プロセスにおけるハルシネーション自体の抑制には直接対処していない。