検索拡張生成（RAG）では、同一のテキストチャンクを繰り返し処理するため、冗長な計算が発生します。位置に依存しないKey-Value（KV）キャッシュの再利用（PIC）によりこれを軽減できますが、従来のテキストベースのPICは、コンテキスト長に比例してKVキャッシュの転送および計算コストが増大します。テキストを画像としてレンダリングして視覚トークンに圧縮する手法は、コスト削減の可能性がありますが、コンパイル時の文脈の不一致や、視覚圧縮による微細なテキスト情報の欠落により、テキストベースのPICよりも精度が大幅に低下するという課題があります。
画像ベースのPICにおける「コンパイル時の文脈不一致」と「微細な証拠情報の欠落」という二つの課題を同時に解決した点が新規性です。モデル固有のテンプレート条件下でキャッシュを事前生成することで文脈の不一致を抑え、かつクエリとの関連性に基づいて解像度を動的に制御することで、計算コストを抑えつつ情報の欠落を補完するフレームワークを提案しました。
オフライン工程では、各チャンクを低解像度と高解像度の2種類の画像としてレンダリングし、モデル固有のチャットテンプレートの接頭辞条件下でKVキャッシュを事前コンパイルします。この際、テンプレート部分のKVエントリのみを削除して保存することで、推論時のプロンプト形式の不一致を防ぎます。オンライン工程では、クエリと各チャンクのテキスト埋め込みのコサイン類似度を用いて関連度を算出します。累積的な関連度スコアが閾値に達するまで、関連度の高いチャンクから順に高解像度キャッシュへと昇格させます。最終的に、選択された解像度のキャッシュを現在のコンテキスト順に組み立て、M-RoPE（Multimodal Rotary Positional Embedding）を用いて各キャッシュをリクエスト内の適切な位置に再配置します。
LongBenchの6つの長文QAタスクを用いて、Glyph 9B、GLM-4.1V、LLaVA-OneVision-2で評価しました。比較対象は、標準的なレンダリング画像PIC、最適化されたテキストPIC、一律の解像度を用いた画像PICです。評価指標はF1スコアと最初のトークン生成までの時間（TTFT）です。結果として、QV-PICは標準的な画像PICと比較して平均F1スコアを21.6ポイント向上させ、最適化されたテキストPICを2.58ポイント上回る精度を達成しました。また、TTFTはテキストPICより17.2%削減され、フルプリフィルと比較して83.8%の削減を実現しました。
本手法は、計算予算内でクエリに関連する詳細情報を復元するために、解像度による情報の保持と計算コストのトレードオフを管理しています。解像度を均一に引き上げた場合には、F1スコアの向上が非単調になるなど、解像度割り当ての制御が重要となります。また、特定のモデルに依存せず、異なるアーキテクチャを持つ汎用的な視覚言語モデルにおいても、精度と遅延のバランスにおいて有効であることが示されています。
Retrieval-Augmented Generation (RAG)において、同一のテキストチャンクを繰り返しプリフィルすることで生じる冗長な計算を削減するため、位置に依存しないKey-Valueキャッシュの再利用（PIC）が提案されていますが、テキストを画像としてレンダリングしてトークン数を圧縮する手法では、コンテキストの不一致や詳細な情報の欠落により品質が著しく低下するという課題があります。本研究が提案するQV-PICは、モデル固有のテンプレートに基づいたクエリ認識型の二重解像度キャッシュ再利用フレームワークです。オフライン処理では、モデルのチャットテンプレートの接頭辞の下で視覚キャッシュをコンパイルすることで、オンラインでの再計算なしにキャッシュの品質を向上させます。オンライン処理では、低解像度のキャッシュによってグローバルな文脈を維持しつつ、クエリとの関連性スコアの累積に基づいて、高解像度の予算内で詳細なテキスト情報を復元することで、視覚圧縮の効率性を保ちながら精度を向上させます。6つのタスクを用いた実験の結果、QV-PICは従来の画像ベースPICと比較して平均F1スコアを21.6ポイント改善し、最適化されたテキストベースPICをも2.58ポイント上回る精度を達成しました。また、フルプリフィルと比較して、最初のトークン生成までの時間（TTFT）を83.8%削減しています。
RAG（検索拡張生成）において、長文ドキュメント内の重複するチャンクを効率的に再利用するPosition-Independent Caching（PIC）は、テキストベースの手法ではKVキャッシュの転送および計算コストがコンテキスト長に比例するという課題があります。テキストを画像としてレンダリングし、視覚言語モデルを用いて複数のテキスト単位を少数の視覚トークンに圧縮する手法は、情報密度を高めつつKVシーケンスを短縮できる可能性がありますが、従来のテキストPICと比較して、コンパイル時のコンテキスト不一致や微細な情報の欠落により精度が低下するという問題があります。本研究では、この課題を解決するために、モデル固有のチャットテンプレートを適用してコンテキストの不一致を抑え、かつクエリに関連性の高い画像のみを高解像度で扱うクエリ認識型デュアル解像度フレームワークであるQV-PICを提案します。QV-PICは、低解像度と高解像度の両方のキャッシュを事前にコンパイルしておき、推論時にクエリの関連度に基づいて高解像度への昇格を制御することで、効率性と精度の両立を図ります。実験の結果、QV-PICは従来のレンダリング画像PICと比較して平均F1スコアを21.6ポイント向上させ、テキストPICとの精度差を解消しただけでなく、テキストPICを2.58ポイント上回る精度を達成しつつ、最初のトークン生成までの時間（TTFT）を17.2%削減しました。また、フルプリフィルと比較して、オンラインでのプリフィル時間を83.8%削減しています。
RAG（検索拡張生成）における従来のPrefix Cachingは、共通の接頭辞や定義済みのレイアウトがある場合にのみKVキャッシュを再利用するため、動的な検索によって同じテキストチャンクが異なる文脈や順序で出現する場合の対応が困難である。これに対し、テキストのPosition-Independent Caching（PIC）は、チャンクを独立したKVキャッシュとしてコンパイルし、オンライン実行時にそれらを連結する手法であるが、トークンの選択や再計算、スケジューリングによるオンラインのオーバーヘッドが課題となる。また、テキストを画像として扱う手法は情報の密度を高めトークン数を圧縮できるものの、レンダリング解像度への依存や、OCRの可読性だけでは長距離の検索および推論の品質を反映できないという限界がある。マルチモーダルなキャッシュ手法も存在するが、固定解像度では微細なテキスト情報の欠落を招く恐れがあり、再計算による計算コストも依然として発生する。
QV-PICは、レンダリングされた画像を用いたKVキャッシュの再利用におけるキャッシュ状態の不一致と、詳細なテキスト情報の欠落という2つの課題を解決する手法である。オフラインフェーズでは、モデル固有のチャットテンプレートを条件として、低解像度と高解像度の両方の画像キャッシュ、およびソーステキストの埋め込みを事前に生成する。この際、テンプレートのKVエントリ自体は削除するが、テンプレート条件下で計算された画像部分のKVエントリを保持することで、推論時のプロンプト形式の不一致を抑制する。オンラインフェーズでは、クエリと各チャンクのテキスト間のコサイン類似度に基づき、関連度が高いと判断されたチャンクのみを高解像度キャッシュに昇格させる。昇格させるチャンクの数は、設定された閾値または予算に基づいて決定され、すべてのチャンクは現在のコンテキスト順序に従って組み立てられる。組み立てられたキャッシュは、M-RoPEによる再アンカリング処理によって現在のリクエスト内の適切な位置に配置され、VLMはクエリのプリフィルと回答生成のみをオンラインで行う。
本実験では、LongBenchに含まれる6つの長文QAタスクを用いて、提案手法であるQV-PICの有効性を評価しています。まず、モデル固有のテンプレート条件付きコンパイルの効果を検証した結果、ダミーのプレフィックスを用いる手法よりも、モデルの学習済み入力インターフェースに適合させることで、レンダリング済み画像キャッシュのF1スコアが大幅に向上することが示されました。次に、解像度（DPI）を均一に上げた場合、最初のトークンまでの時間（TTFT）は一貫して増加する一方で、F1スコアの向上は非単調で不安定になることが確認されました。これに対し、QV-PICはクエリに関連性の高い画像のみを120-DPIの高解像度で割り当て、それ以外を72-DPIの低解像度で保持するデュアル解像度戦略をとることで、一律に高解像度化する場合よりも高いF1スコアと低いTTFTを同時に実現しています。さらに、テンプレート条件付きコンパイルとクエリ認識による解像度割り当てを組み合わせることで、テキストベースのPICを上回るF1スコアを達成できることが示されました。最後に、Glyph以外の汎用的な視覚言語モデル（GLM-4.1VおよびLLaVA-OneVision-2）を用いた検証においても、QV-PICは高い汎用性を持ち、既存のPIC手法と比較して優れたF1スコアと低遅延の両立を実現しています。
本研究では、レンダリングされた画像を用いるPrefix Injection Caching（PIC）において、キャッシュ状態の不一致や微細な証拠情報の欠落により再利用の品質が低下する課題に対し、クエリを考慮した視覚的PICフレームワークであるQV-PICを提案する。この手法は、モデル固有のテンプレート条件付きキャッシュコンパイルと、クエリに応じた二重解像度キャッシュアセンブリを組み合わせることで、コンパイル時の文脈との不一致を軽減し、クエリに関連するテキスト情報の保持を可能にする。LongBench QAの6つのタスクを用いた評価では、QV-PICは従来のレンダリング画像PICと比較してF1スコアを21.6ポイント向上させ、最適化されたテキストPICや一律の解像度を用いた画像PICを、より短い最初のトークン生成までの時間（TTFT）で上回る性能を示した。フルプリフィルと比較した場合、オンラインでのプリフィル時間を83.8%削減しており、再利用可能な視覚・テキストキャッシュを用いることで、高速かつ正確な長文ドキュメントRAGを実現している。