ホームへ戻る

影片生成/推論系統

NVIDIA、MiniMax H3に2段階生成を導入し、GB200 1基で10秒動画のレイテンシを14.9秒に短縮

H3 Super Accelerationは、まず低解像度かつ4ステップのノイズ除去でドラフトを作成し、その後LTXとSol-Attnに引き渡して3ステップで高解像度の精細化を完了する。公式測定では、768pの10秒動画はSGLangベースライン比で27.7倍高速だったが、この高速化はサンプリング経路を変更するものであり、同等品質を維持した純粋なカーネル最適化ではない。

David Birkas · CC BY 2.0 · Image source
zh-Hant

NVIDIA SANAチームは、MiniMax H3の推論ソリューション「H3 Super Acceleration」を更新した。焦点は元のモデルの各コンピュートカーネルを一律に高速化することではなく、生成処理を再分割することにある。第1段階では、H3、専用LoRA、軽量デコーダーを使用し、896×512、24 FPSで4ステップのノイズ除去を実行する。第2段階では、ドラフトを768p、1080p、または2Kへアップスケールし、LTXモデルとSol-Attnを組み合わせて3ステップの精細化と高速VAEデコードを行う。両段階は同一のGB200上で直列実行され、合計7ステップとなる。

1344×768、batch size 1のウォームアップ済みテストでは、5秒動画の処理時間は6.852秒、10秒動画は14.931秒だった。公式に示されたSGLangベースラインはそれぞれ152.3秒と414.1秒で、換算すると22.2倍および27.7倍の高速化となる。さらに内訳を見ると、TAEH3は第1段階のVAEデコードを3.427秒から0.028秒に短縮し、LTX TAEHVは従来6.404秒かかっていた最終デコードを0.187秒まで削減した。エンジニアリング上の示唆は、動画サービスの主要なレイテンシ要因が必ずしもDiTだけにあるとは限らないという点だ。デコーダー、解像度の構成、精細化モデルも、同様にエンドツーエンドのコストを左右し得る。

ただし、これらの数値をそのまま無損失のカーネル高速化と見なすことはできない。新しいフローでは、フル解像度でのH3のステップ数を減らし、別のモデルでディテールを補完しているため、テクスチャ、モーション、音声のいずれも元のSGLangの結果から乖離する可能性がある。また、測定ではモデルのロードとウォームアップが除外され、第2段階は10回のウォーム済みリクエストの平均値のみが使用されている。並行処理、テールレイテンシ、ピークVRAM使用量、客観的な品質指標についても、まだ説明されていない。今後は、コードとLoRAが完全に公開されるか、コンシューマー向けGPUに2つのモデルを収容できるか、そして大規模なバッチ処理サービスでも同等の速度と画質を維持できるかを注視する必要がある。

出典

  1. MiniMax announces H3 Super Acceleration
  2. MiniMax H3 Super Acceleration
  3. MiniMax-H3 model card