多数のエージェントが衝突を避けながら目的地へ到達する経路計画(MAPF)を対象とする。従来の学習ベースの手法は、現在の観測のみに基づいて行動を決定する反応的なポリシーに依存しているため、複雑な環境レイアウトやエージェント間の時間的な動態、部分観測下での長期的な計画において性能が低下するという課題がある。また、既存のベンチマークマップは、実世界の都市構造のような複雑なトポロジーを十分に反映できていない。
二重プロセス理論に着想を得て、迅速な意思決定を行う方策(Fast system)と将来を予測するワールドモデル(Slow system)を統合した、Transformerベースのアクション・ワールドモデルを提案した。これにより、空間的特徴や時間的依存関係、エージェント間の相互作用を明示的にモデル化し、局所的な観測を超えた先見的な判断を可能にした。さらに、OpenStreetMapを活用して実世界の都市構造を反映したマップを自動生成するパイプラインを導入し、評価の汎用性を向上させた。
Transformerアーキテクチャを用い、共有エンコーダと2つのデコーダ(方策用と予測用)で構成される。入力は11×11のローカルコストマップと、最大13エージェントの相対位置、目標位置、行動履歴、推定行動を含む計256トークンである。空間的な関係性を強化するため、距離と方向を保持する3Dベクトルや、開始位置・目標位置・変位を個別にエンコードするSpatial Relational Encoding(SRE)を用いる。動作モードは、即座に行動を出力するFast、将来の観測と他者の行動を自己回帰的に予測するSlow、および予測に基づき長期的な計画を行うThinkingの3種類がある。学習時は、方策の損失と、将来の状態および行動の予測に関する損失の加重和を最小化する。
LaCAM*を用いて生成した80Mの訓練サンプルを使用し、これはMAPF-GPTと比較して92%少ないデータ量である。評価は、random、mazes、warehouse、puzzles、MovingAI、および提案手法で生成したEuropean cityの6種類のマップを用い、成功率を指標とした。実験の結果、MAPF-World-Slowは、MAPF-GPT-DDGを含む最先端の学習ベース手法を、特にwarehouse、puzzles、European cityなどのマップにおいて上回った。また、提案モデルはMAPF-GPTと比較してモデルサイズを96.5%削減しながら、高い性能を達成した。
モデルが自己回帰的に予測を繰り返す「思考」プロセスにおいて、実際の環境からのフィードバックなしに予測のみで目的地まで到達することはできず、予測の累積誤差によって性能が低下するという限界がある。これは、モデルが絶対座標ではなくエージェント中心の相対的な視点に基づいていることに起因する。今後の課題として、グローバルな文脈の導入や、より適切な状態表現の検討が挙げられる。
MAPF-Worldは、マルチエージェント経路計画(MAPF)において、状況理解と行動生成を統合した自己回帰的なアクション・ワールドモデルを提案する手法である。従来の分散型学習モデルは、環境の時系列的な動態やエージェント間の依存関係のモデリングが不十分であり、複雑で長期的な計画において性能が低下するという課題があった。これに対し、MAPF-Worldは将来の状態と行動を予測することで、空間的特徴と時間的依存関係を含む環境の動態を明示的にモデル化し、局所的な観測を超えた先見的な意思決定を可能にする。また、実世界のシナリオに基づいた自動マップ生成器を導入することで、実践的なレイアウトでの学習と評価を実現している。実験の結果、MAPF-Worldは既存の最先端の学習型ソルバーを上回り、分布外のケースに対しても優れたゼロショット汎化性能を示した。さらに、本手法は従来手法と比較して、モデルサイズを96.5%削減し、データ量を92%削減した状態で学習が可能である。
マルチエージェント経路計画(MAPF)は、多数のエージェントが衝突を避けながら目的地へ到達する問題であり、大規模かつ複雑な環境下ではNP困難な問題となる。従来のCBSやPBSといった手法は最適性を追求する一方でスケーラビリティに課題があり、PIBTやLaCAM*は効率性と解の質のトレードオフが存在する。近年の学習ベースの手法は、現在の観測のみに基づいて行動を決定する反応的なポリシーに依存しているため、複雑な環境レイアウトやエージェント間の時間的な動態、部分観測下での長期的な計画において性能が低下するという限界がある。これに対し、本研究では二重プロセス理論に着想を得た、Transformerアーキテクチャに基づく自己回帰的なアクション・ワールドモデルであるMAPF-Worldを提案する。この手法は、迅速な意思決定を行うポリシー(高速システム)と、将来の状態を予測するワールドモデル(低速システム)を共有エンコーダと二系統のデコーダによって統合しており、将来の予測結果を現在の意思決定に組み込むことで、空間的特徴や時間的動態、エージェント間の依存関係を考慮した高度な状況把握と先見的な判断を可能にする。また、都市のレイアウトから現実的なマップを自動生成するパイプラインを導入しており、実験では高密度かつ大規模なシナリオにおいて、よりコンパクトなモデルと少ない学習データでありながら、既存手法を上回る性能を示すことを確認している。
マルチエージェント経路探索(MAPF)のベンチマークは、マップ、エージェント、および開始・目標位置で構成され、既存のものは迷路や倉庫、都市の街路などのトポロジーに分類されますが、実世界の都市データに基づくマップは不足しており、解決策の汎用性を評価する上での課題となっています。MAPFの解法には、CBSやPBSのような探索ベースの古典的手法や、効率と解の品質のトレードオフを図るLaCAM*のようなプランナー、そして模倣学習や強化学習を用いた学習ベースの手法が存在します。学習ベースの手法は、アルゴリズムの一部を学習モジュールに置き換えるハイブリッド型と、通信や優先順位付けを完全に学習に委ねるエンドツーエンド型に分けられますが、これらは主に反応的なアプローチに留まっています。これに対し、提案手法であるMAPF-Worldは、アクションワールドモデルを導入することで、将来の状態やエージェント間の相互作用を自己回帰的に予測し、より先を見据えた計画を可能にします。本手法は、カーネマンの高速・低速の二重過程理論に基づき、パラメータを共有することで高速システムを低速システムに組み込む構成をとっています。
マルチエージェント経路探索(MAPF)は、2次元グリッドマップ上で複数のエージェントが、各々の開始位置から目標位置まで、頂点衝突およびエッジ衝突を回避しながら移動する問題です。この問題は、分散的な意思決定と部分観測を制約とする分散部分観測マルコフ決定過程(Dec-POMDP)として定式化され、全エージェントの座標からなる状態空間、上下左右の移動および待機を含む結合アクション空間、および結合観測空間を用いて定義されます。アクション・ワールドモデルは、過去の観測履歴に基づいて反応的な行動を決定する方策モデルと、過去の観測およびアクションから将来の状態を予測して環境のダイナミクスを捉えるワールドモデルの2つの構成要素から成ります。これら2つのモデルは、方策モデルの損失とワールドモデルの損失の加重和を最小化するように、定数を用いた目的関数を通じて同時に学習されます。
MAPF-Worldは、Transformerアーキテクチャに基づき、即座に次の一手を出力する高速なFast systemと、将来の状態や他エージェントの行動を予測する低速なSlow systemを統合した、自己回帰的なアクション・ワールドモデルである。動作モードは、現在の観測から即座に次の一手を出力するPolicy model、予測された他者の行動を次ステップの入力に用いて協調的な意思決定を行うAction world model、そして予測に基づき長期的な計画を行うLong-horizon action world modelの3種類があり、反応性と計画性のトレードオフが可能である。入力には、11×11のローカルコストマップと最大13エージェントの状態情報(相対位置、目標位置、行動履歴、推定行動)を含む計256トークンが用いられる。提案するSpatial Relational Encoding (SRE)は、ユークリッド座標を距離と方向を保持する極座標形式に変換する手法や、エージェントの開始位置、目標位置、変位を分離してエンコードする手法を組み合わせることで、空間的な文脈と動的な意図をモデルに明示的に伝達する。学習は、行動予測の精度を優先するために行動関連トークンに大きな重みを置いたクロスエントロピー誤差を用いて、Fast systemとSlow systemを同時に最適化する。また、OpenStreetMapのデータから歩行可能な領域と障害物を識別してグリッドマップを自動生成するパイプラインを備えており、実世界の都市構造を反映したマップを用いた評価が可能である。
MAPF-Worldの実験では、LaCAM*を用いて生成した80Mの訓練サンプル(randomおよびmazesマップ)を使用しており、これはMAPF-GPTと比較して92%削減されたデータ量です。評価は、random、mazes、warehouse、puzzles、MovingAI、および提案手法のマップ生成器によるEuropean cityの6種類のマップを用い、成功率を指標としています。提案手法のMAPF-World-Slowは、他エージェントの行動を予測してシミュレーションを行うことで、MAPF-GPT-DDGを含む既存の最先端モデルを、特に複雑なシナリオや高密度な環境において上回る性能を示しました。アブレーション研究では、空間関係エンコーディング(SRE)が空間的な類似性や距離関係を豊かに捉えることに寄与しており、これを削除すると性能が平均で10%低下することが確認されました。また、MAPF-World-Thinkingのような長期的な予測に基づく思考能力については、予測ステップが進むにつれて性能が低下し、実際の環境からのフィードバックなしに予測のみで目的地まで到達することは困難であるという限界も示されています。
本研究では、カーネマンの二重過程理論に着想を得た、自己回帰的なアクション・ワールドモデルであるMAPF-Worldを提案している。この手法は、即時的な反応を行う高速な方策と、将来を予測する低速なワールドモデルを統合することで、部分観測環境下における純粋な反応型モデルの限界を克服している。実験の結果、既存の主要なベースラインと比較して、モデルサイズを96.5%削減し、学習データ量を92%削減しながら、最先端の先見的な計画性能を達成した。また、現実世界の都市データから現実的なベンチマークを生成するパイプラインを導入しており、生成されたマップは既存のマルチエージェント経路探索ソルバーに対して新たな課題を提示している。MAPF-Worldとこのマップ生成手法は、より堅牢で汎用性の高いマルチエージェント経路探索ソリューションの開発に向けた重要な進展である。