RuleMazeは視覚的プランニングをツール呼び出しに分解し、3Bモデルの未知ルール成功率を56.3%から88.0%に向上

北京大学などの研究チームがRuleMazeを発表した。これは、マルチモーダルモデルの「ルールを守る」能力を、テキスト回答から実行可能な空間行動へと移す試みだ。各問題では迷路画像、目標、自然言語による制約が与えられる。例えば、「オレンジ色の領域に入った後は、次の一歩で必ず上に移動しなければならない」といったルールだ。モデルが出力する上下左右の動作列は、ゴールに到達するだけでなく、途中でルールに違反してはならない。データはRegularMazeと、鍵、ライフポイント、動的な目標を含むQuestMazeに分かれる。各環境には3,600件の訓練サンプルと400件のテストサンプルがあり、そのうち300問では訓練時に未知だったルールが使われている。

データ生成にはLanguage–Logic–Functionパイプラインを採用している。まずLLMがルールを考案し、それを論理式に変換したうえで、完全な軌跡を受け取るPython検証関数を生成する。プログラムは迷路内の経路を列挙し、ルールに適合する経路が少なくとも1本存在すると同時に、違反を誘発する紛らわしい経路も存在する組み合わせだけを残す。自動生成された検証器の精度は人手による確認前の時点で93.3%だった。その後、著者らが一つずつレビューしているため、最終データは完全に自動生成されたものではない。

チームはさらに、Qwen2.5-VL-3Bを用いてDisentangled Multimodal Planning（DMP）コントローラーを訓練した。モデルは1回のテキスト出力ですべての推論を完了する必要がなく、LocateStart、InspectGrid、ExecuteMove、VerifyRule、VerifyEndpointを交互に呼び出す。知覚と状態遷移はツールによって提供され、コントローラーは主に、いつ観察し、移動し、検証するかを学習する。RegularMazeの未知ルールにおける完全経路のExact Match率は、通常のSFTが70.3%だったのに対し、DMPは90.0%に達した。QuestMazeでは56.3%から88.0%へ向上した。QuestMazeの難しいルールでは、その差が40.0%対84.0%にまで拡大した。公開プロジェクトには、データ生成、LoRA訓練、チェックポイントごとの評価パイプラインが含まれている。参考構成では、約4基のRTX 4090を使用して12時間の訓練が必要とされる。

これらの結果が示しているのは、3Bモデルが現実世界の一般的なルールを汎化して学習したということよりも、「外部ステートマシンと実行可能な検証」を組み合わせる方が、すべての制約をモデル内部に詰め込むより優れているという点だ。未知ルールにも、テスト時には専用の検証器が用意されている。また、迷路は離散的で完全観測可能かつ列挙可能な環境であり、道路やロボットのシナリオに存在するセンサー誤差とは大きく異なる。今後は、人手で修正されていない検証器でも信頼性を維持できるか、また連続制御、競合するルール、不完全観測の条件下でも、この手法が優位性を保てるかを検証する必要がある。