PhyAI、VLAと世界・行動モデルの推論を統合、公式実装経路との比較で1.40～4.65倍高速化

具身モデルでは、クラウド上の強化学習rollout、オフライン評価、ロボットのエッジ制御で、それぞれ異なる推論プログラムが使われることが多い。同じcheckpointであっても、前処理、反復型行動ソルバー、出力変換の違いによって、デプロイ時の挙動が学習時から乖離する可能性がある。北京郵電大学、北京大学、清華大学、明体科技、面壁智能などのチームが提案したPhyAIは、視覚・言語・行動モデル（VLA）と、世界状態および行動を同時に予測するWAMを、単一のモデル実行経路でカバーすることを目指している。

PhyAIは、これらのモデルをLLMのprefill／decodeインターフェースへ無理に当てはめてはいない。モデルアダプターが条件入力、反復ソルバーの状態、再利用可能なtensor、スケジューリング、行動変換を維持し、下位層ではCUDA Graph、最適化カーネル、メモリおよびキャッシュ管理、量子化、通信、並列実行を共通化する。π0.5では単一GPU runnerをそのまま利用してデータ並列化でき、Cosmos3ではtensor parallelismとclassifier-free guidanceの並列化を組み合わせられる。公開コードは現在、Jetson、RTX 5090、A40、H100のほか、複数のH20やA100などのデプロイ構成をサポートしている。

論文では、比較可能な11通りのモデルとデバイスの組み合わせにおいて、公式実装比で1.40～4.65倍の高速化を報告している。Cosmos3-Nano-Policy-DROIDでは、H20を8基使用し、CFG=2、TP=4とした場合、レイテンシが2.46秒から1.18秒へ短縮された。シミュレーションによるA100 8基構成の強化学習rolloutでは、1ステップ当たりの時間を26.5％削減し、学習スループットが約1.36倍向上すると推定されている。性能プロファイリングでは、π0.5のaction expertがbatch 1においてFLOPsの8.8％しか占めない一方、レイテンシの57.2％を占めることも示された。これは、計算量だけでは具身モデルのボトルネックを見誤る可能性があることを意味する。

チームはさらにcontrol-time Rooflineを提案した。推論がロボットによる現在の行動の実行よりすでに速い場合、レイテンシをさらに短縮しても制御周波数が向上するとは限らず、タイミングマージンや単一GPUで提供できるpolicy数が増えるだけの可能性がある。これは、単純なtokens/sよりも制御システムに適した指標だ。ただし著者らは、いくつかの構成では専用runtimeのほうが依然として高速であること、一部の公式baselineとは数値精度が完全には一致していないことを認めている。RLinfとの統合も現時点ではシミュレーション結果にとどまる。今後は、実機ロボットにおけるend-to-endレイテンシ、行動品質が公式実装と一致するかどうか、さらに量子化とマルチテナントスケジューリングによって制御の安定性を維持できるかが注目される。