Photon-1、ラベルなしの画面動画からコンピューター操作を学習——行動ラベルを潜在状態予測で代替

Induction Labsは「imagination model」アーキテクチャと、その最初の実験モデルであるPhoton-1を公開した。コンピューター操作エージェントに共通するデータ上のボトルネックを回避する試みだ。動画からマウスやキーボードなどの操作を逆算するためにinverse dynamics modelを事前に用いるのではなく、前後の画面から状態がどのように変化するかを直接学習する。事前学習の目的関数は自己回帰型のnext-latent-token predictionである。差分視覚エンコーダーは有限スカラー量子化（FSQ）により各フレームを960個の離散token（約2.2 KB）へ圧縮し、隣接する画面間の差分を重点的に記述する。

[公式技術解説](https://www.inductionlabs.com/news/scaling-video-pretraining)によると、Photon-1は総パラメータ数106B、token当たり5Bを有効化するMoEである。約200万本の画面録画から5億7,500万フレームを抽出しており、毎秒1フレームで換算すると18年分の動画、552B tokenに相当する。32Kコンテキストによる1回の事前学習には、約3万H200 GPU時間を使用した。完了後、行動軌跡を含む3万5,000件未満のデータでファインチューニングし、モデルがまず次のデスクトップ状態を「想像」してから、対応する操作を出力できるようにした。さらに、仮想マシン上でプログラムにより検証可能な結果を用いて、オンライン強化学習を行った。

チームは、Photon-1が社内のコンピューター操作タスクでGemini 3.1 Flash-Liteを上回り、事前学習FLOPsは少なくとも30分の1、推論コストは約3分の1だったと主張している。また、コンピューター動画のみで事前学習した表現でも、ファインチューニング後にはチェスの対局やビリヤードのシミュレーションが可能になったという。これらの比較については、公開テストセット、モデル重み、独立した再現結果がまだ存在せず、[Y Combinatorの公開ページ](https://www.ycombinator.com/companies/induction-labs)でも数値がチームによる結果であることを明記している。技術面で本当に注視すべき点は、圧縮された潜在状態がWebサイトやOSをまたいで汎化できるか、RL後に解釈困難となるlatentがデバッグを妨げるか、そして行動ラベルなしの事前学習が、より幅広い実世界の動画でも因果的な制御可能性を維持できるかである。