ホームへ戻る

機器人/邊緣 AI

CoTinyVLA、9億パラメータで7Bのロボティクスベースラインを上回るも、実験は依然シミュレーション環境に限定

CoTinyVLAは、35B教師モデルの階層的推論を0.9Bの視覚・言語・行動モデルへ蒸留し、LIBERO-Plusの4つのテストスイートすべてで最強の7Bベースラインを上回った。コード、訓練パイプライン、重みは公開済みだが、実機ロボット、異なるハードウェア、外部チームによる再現結果はまだない。

Daderot · Public domain · Image source
zh-Hant

ロボティクス向けVLAモデルは通常、言語バックボーンを大規模化することで汎化能力を高めるが、CoTinyVLAは必要な推論構造を9億パラメータに圧縮することを試みている。システムはQwen3.5-0.8Bをバックボーンとし、各制御ステップで第三者視点カメラと手首カメラから合計16枚の過去フレームを読み込む。さらにカメラ識別子とタイムスタンプを追加し、モデルが最新の画像だけに依存することを防いでいる。訓練時には、35B教師モデルが2階層のテキスト監督信号を生成する。タスク全体を対象とする`Plan`と、現在のフェーズ、グリッパーの状態、次のサブアクションを記述する`Think`だ。また、40件の元の指示は800種類の表現へ拡張された。

10,030件の摂動タスクを含むLIBERO-Plusにおいて、CoTinyVLAはSpatial、Object、Goal、Longの各スイートで、それぞれ90.8%、87.3%、86.6%、80.7%を達成した。これは各スイートにおける既存の最良7Bモデルの結果を2.8~15.9パーセントポイント上回る。最も顕著な差は、ロボットの初期状態が変化する条件で見られた。この結果は、閉ループ制御における状態認識の改善には、単なるパラメータ数の増加よりも、時間履歴と構造化された監督信号のほうが有効である可能性を示している。

著者らによると、閉ループ推論時のピーク構成メモリ使用量は2.25 GiBだった。L40S上でGPU 1基あたり3つのrolloutを並列実行した場合、8アクションごとの定常状態レイテンシは1.37秒だった。episode-levelのPlanをキャッシュすることで、定常状態レイテンシを48.5%削減できる。テスト時にPlanを削除または置換すると、成功率は40~45パーセントポイント低下したことから、テキスト推論が単なる装飾的な出力ではないことが示されている。

ただし、これらの成績はLIBEROシミュレータで得られたものであり、各LIBERO-Plus摂動タスクの実行回数も1回にすぎない。そのため、実際のロボットアームがセンサーノイズ、制御遅延、ハードウェアの摩耗に直面した際の信頼性を示すものではない。リポジトリにはデータ変換、訓練、評価の各パイプラインが含まれているものの、現時点ではコミュニティでの採用例や独立検証はほぼ皆無だ。今後は、実機への転移、異なる教師モデルに対する蒸留の感度、組み込みGPU上で実現できる実際の制御周波数を注視する必要がある。

出典

  1. CoTinyVLA: Chain-of-Thought Distillation for a Sub-Billion-Parameter Vision-Language-Action Model
  2. BrainJellyPie/CoTinyVLA
  3. CoTinyVLA-Qwen3.5-0.8B model checkpoint