世界模型與強化學習
WorldCycle、可逆アクションで検証シグナルを自己生成、動画世界モデルの複合アクション精度を4倍に向上
WorldCycleは、アクションとその逆操作を組み合わせて閉ループを構成し、実際の未来動画を必要とせずに長期的な状態ドリフトを測定する。8B動画世界モデルを用いた実験では、サイクル誤差を最大44%低減し、複合アクション精度を0.136から0.553へ向上させた。

インタラクティブ動画世界モデルは、アクション実行後の映像を区間ごとに生成するが、わずかな遷移誤差でも数百フレーム後には蓄積し、色、形状、オブジェクト位置のドリフトにつながる可能性がある。通常の軌跡には唯一の正解となる未来動画が存在しないため、長期的な強化学習報酬を設計することは難しい。[WorldCycle](https://arxiv.org/abs/2608.04964)は、解析的に検証可能な例外を利用する。モデルが一連の可逆アクションを実行した後、逆順でそれぞれの逆アクションを実行すれば、最終状態は本来、初期状態に戻るはずだという考え方だ。
この手法は、最終フレームだけを比較するものではない。空間閉合報酬は、順方向の軌跡に含まれる各局所状態を、逆方向経路の鏡像状態と整合させることで、誤差が生じた位置を密に特定できるようにする。一方、時間的一貫性報酬では、同じ閉ループを繰り返し実行し、各周回の同一段階における映像を比較することで、時間とともに増大するドリフトにペナルティを与える。研究では、8B WorldPlay自己回帰チェックポイントを出発点とし、実世界シーンの画像とテキスト約4,000組を使用して、8基のH200上で3日間のポストトレーニングを行った。各訓練ステップでは閉じた軌跡と反復軌跡をリアルタイムで生成するため、対応する未来動画への人手によるアノテーションは不要だ。
チームはさらにCycleBenchを構築し、47本のアクション軌跡と380枚の初期画像を用いて、可逆ループ、閉ループ、反復ループ、連結ループをテストした。最長のrolloutは381フレームに達する。同じくWorldPlayからポストトレーニングされたWorldCompassと比較すると、WorldCycleは125フレーム設定でESCを32%、RPSを44%低減し、381フレーム設定ではRCSを34%低減した。基礎訓練では未見だった複合アクションにおいて、精度はWorldPlayの0.136から0.553へと約4倍に向上し、WorldCompassも11%上回った。プロジェクトではHPSv3とVBenchによる画質評価も行い、閉ループ一貫性と引き換えとなる明確な視覚品質の低下は確認されなかった。
[研究デモページ](https://nevsnev.github.io/Worldcycle/)では同期動画と項目別の結果が公開されているが、確認時点ではコードや重みのダウンロードは掲載されていなかった。より大きな制約は、この検証シグナルが、可逆であり、かつ正味の変換が既知であるアクションにしか適用できない点だ。この手法は状態遷移の一貫性を改善できるものの、モデルが不可逆なイベント、衝突、オブジェクト生成を理解していることまでは証明できない。次の段階では、閉ループ訓練の効果がロボットプランニングへ転移するか、また第三者が異なる世界モデルでも同様の改善を再現できるかを検証する必要がある。