従来のRAGはテキストチャンクを独立した単位として扱うため、複数の文書に分散した証拠を統合して一貫した推論パスを構築することが困難である。また、既存のグラフベースRAGはエンティティ間の二者間関係のモデル化に限定されており、複数のエンティティや文脈が同時に関与する高次の意味的関連性を捉えきれない。本研究は、複雑な質問に対して、構造的に整合性の取れた証拠の特定と、論理的な推論チェーンの構成を行うことを目的とする。
従来のグラフ構造では断片化されやすかった証拠を、複数のエンティティや事象を同時に結びつけるハイパーエッジによって高次に関連付けられるようにした。また、単なる知識の構造化に留まらず、検索された証拠がどのように回答に寄与するかを明示する証拠連鎖の概念を導入している。さらに、ハイパーグラフ上での信頼度伝播メカニズムにより、直接的な検索結果だけでなく、構造的に重要なエンティティを動的に特定できる点が新規である。
オフライン段階では、文書をチャンクに分割し、大規模言語モデルを用いてエンティティ、ハイパーエッジ、およびそれらの包含関係を抽出してコーパス全体のハイパーグラフを構築する。オンライン段階では、質問から抽出したエンティティとベクトル検索を組み合わせて初期エンティティを特定し、それらに接続するハイパーエッジを探索して質問特化型のハイパーグラフを組み立てる。このグラフ上で、エンティティとハイパーエッジの包含関係に基づき信頼度を伝播させ、各要素の重要度を推定する。最後に、意味的関連性、エンティティの網羅性、関係の信頼性、抽出時の信頼度、および伝播された信頼度を統合して証拠ユニットをスコアリングし、構造化された証拠チェーンとして生成器に提供する。
HotpotQA、2WikiMultihopQA、MuSiQue、およびGraphRAG Benchmark（医療・物語ドメイン）の5つのデータセットを用いて評価を行った。評価指標にはLLMを用いた判定器による回答の正確性、文脈の関連性、忠実度を用いた。実験の結果、最強のベースラインと比較して、5つのデータセットの平均で回答の正確性が18.17ポイント、文脈の関連性が8.84ポイント、忠実度が14.56ポイント向上した。また、HotpotQA、2WikiMultihopQA、MuSiQueの各データセットにおいて、最強のベースラインに対し回答の正確性がそれぞれ11.4ポイント、18.2ポイント、29.6ポイント向上した。
ハイパーグラフの構築はオフラインで行われるため、オンライン推論時の追加コストは、疎な行列演算を用いることで大幅に抑えられる。抽出エラーが伝播過程で増幅されるリスクに対しては、抽出時の信頼度をスコアリングに組み込むことで、ノイズの多い証拠の重みを下げる設計となっている。今後の課題として、より効率的なハイパーグラフの構築手法の検討や、さらに広範なドメインおよび長文脈の推論シナリオへの拡張が挙げられる。
HyCE-RAGは、マルチホップ質問回答において、エンティティ、関係、および文脈的証拠をハイパーエッジとして整理するハイパーグラフ構造の知識表現を用いた、証拠連鎖を意識した推論フレームワークです。従来のRAGやグラフベースのRAGが、複数のエンティティや事実、文脈が関わる高次の関連性の表現に課題があるのに対し、本手法は信頼度を考慮したヒューリスティックな探索により、関連する証拠の選択、接続、および順位付けを行います。この探索プロセスでは、意味的な関連性、エンティティの接続性、証拠の網羅性、推論の整合性、および伝播された信頼度スコアを統合的に考慮します。生成の前に明示的な証拠連鎖を構築することで、大規模言語モデルに対して構造化され解釈可能な推論コンテキストを提供します。実験の結果、HyCE-RAGは標準的なRAGや既存のグラフベースのRAGと比較して、回答の正確性、文脈の関連性、および忠実度の指標において優れた性能を示しました。
従来のRAGはテキストチャンクを独立した単位として扱うため、複数のステップを要する複雑な質問に対して、分散した証拠を繋ぎ合わせる一貫した推論パスを構築できない課題があります。既存のGraphRAGはエンティティ間のペアの関係をモデル化しますが、複数のエンティティや証拠単位を同時に結びつける高次の意味的関連性を捉えるには不十分です。提案手法であるHyCE-RAGは、検索された文書をハイパーグラフ構造の証拠へと変換し、ハイパーエッジを用いて複数のエンティティや証拠単位を同時に接続することで、高次の関連性を表現します。本フレームワークでは、クエリに関連するエンティティとハイパーエッジの包含関係を通じてクエリの関連性を伝播させる信頼性伝播メカニズムを導入しており、これにより直接的な検索だけでなく、構造的に接続された重要なエンティティも特定可能です。さらに、意味的関連性、エンティティの網羅性、関係の信頼性、および伝播された信頼度スコアを統合的に考慮するヒューリスティックな探索とスコアリング戦略により、証拠を明示的な証拠チェーンとして整理します。これらの構成された証拠チェーンを大規模言語モデルに構造化された推論入力として提供することで、説明可能なマルチホップ質問回答を実現します。
従来のRAGは文書を独立したテキストチャンクとして扱うため、エンティティ間の依存関係や分散した証拠を統合して一貫した推論経路を形成することが困難である。これに対し、GraphRAGなどのグラフベースの手法は、エンティティと関係性を構造化して保持することで知識の関連性を捉えるが、従来のグラフはエンティティ間の二者間関係の表現に限定されており、複数のエンティティや事象が同時に関与する複雑な推論において、意味的なまとまりを断片化させノイズを招く可能性がある。ハイパーグラフを用いた手法は、複数の単位を同時に結びつけるハイパーエッジにより高次の関連性を表現できるが、既存のグラフおよびハイパーグラフベースのRAGは知識の組織化や検索に重点を置いており、検索された証拠がどのように接続・重み付けされ、最終的な回答に導かれたかという説明性の提供には限定的である。マルチホップ質問回答においては、明示されていない中間的な証拠の検索、誤導的な情報の排除、および証拠を論理的な推論チェーンへと構成するプロセスが重要となる。提案手法であるHyCE-RAGは、ハイパーグラフを用いてエンティティや関係性を証拠チェーンとして構造化し、その構造上で信頼度を伝播させることで、高次の依存関係を捉えつつ、信頼性の低い文脈を抑制し、解釈可能な推論を可能にしている。
HyCE-RAGは、オフラインでのハイパーグラフ構築と、オンラインでの検索・生成の2段階で構成されるフレームワークです。オフライン段階では、文書コーパスをテキストチャンクに分割し、大規模言語モデルを用いてエンティティ、複数のエンティティを接続するハイパーエッジ、およびそれらの接続関係を抽出することで、コーパス全体のハイパーグラフを構築します。オンライン段階では、まず質問からエンティティを抽出する手法とベクトル検索を組み合わせて初期エンティティを特定し、それらに接続するハイパーエッジを探索することで、質問に特化したハイパーグラフを組み立てます。次に、このハイパーグラフ上でランダムウォークに基づく信頼度伝播を行い、エンティティとハイパーエッジの重要度を推定します。この信頼度に基づき、抽出時の信頼度やエンティティの被覆率を考慮して証拠ユニットをスコアリングし、構造化された文脈として大規模言語モデルに提供することで回答を生成します。本手法は、一つのハイパーエッジが複数のエンティティを同時に結ぶことで、テキスト内の高次な意味的関連性を保持できる点が特徴です。
HyCE-RAGの性能を評価するため、HotpotQA、2WikiMultihopQA、MuSiQueといったマルチホップ質問回答ベンチマークと、GraphRAG Benchmarkの医療および物語ドメインのサブセットを用いて実験が行われました。評価指標には、従来の文字列一致に基づく指標ではなく、LLMを判定器として用いる手法を採用しており、回答の正確性、文脈の関連性、および回答が文脈に基づいているかを示す忠実性の3点を測定しています。実験の結果、HyCE-RAGはすべてのデータセットにおいて既存のベースラインを上回り、特にMuSiQueでは、最強のベースラインと比較して文脈の関連性が65.0%、忠実性が77.8%向上するという顕著な成果を示しました。これは、単にグラフ構造を構築するだけでなく、ハイパーグラフ上での信頼度伝播とハイパーエッジに基づく証拠の組み立てを行うことで、複雑な推論に必要な一貫した証拠パスを特定できるためです。アブレーション研究では、ハイパーグラフの構築のみを行う手法や信頼度伝播を除去した手法と比較することで、提案手法の各コンポーネントがマルチホップ推論における証拠の整理と検索の質に寄与していることが確認されました。
HyCE-RAGは、複雑な質問回答を目的とした、ハイパーグラフに基づく検索拡張生成フレームワークである。本手法は、個々の文章を独立して順位付けするのではなく、エンティティ、関係、および証拠ユニットを単一のハイパーグラフ内でモデル化し、信頼性の伝播を適用することで、構造的に一貫した証拠の連鎖を特定する。この設計により、生成器は意味的に関連し、かつ構造的に裏付けられた証拠に集中することが可能となり、経路から外れた妨害要素の影響を軽減できる。マルチホップ質問回答およびGraphRAG-Benchデータセットを用いた実験の結果、HyCE-RAGは既存の強力な検索ベースのベースラインを上回る性能を示した。5つのデータセットの平均において、最も強力なベースラインと比較して、回答の正確性で18.17ポイント、文脈の関連性で8.84ポイント、忠実度で14.56ポイントの向上を達成している。