ホームへ戻る

AI inference runtimes

Diffusers 0.40、Modular Pipelineを安定版APIへ移行する一方でJAX/Flaxを削除

Hugging Faceは、MiniMax H3、MiniMax Music 3、Wan-Animate-2をコンポーザブルなブロックとして直接組み込めるようにし、従来型のDiffusionPipelineラッパーを提供しない方針を採った。新バージョンでは、限定的なtensor parallel、低ビット量子化バックエンド、セキュリティ修正も追加されたが、Flaxの削除とLoRA出力の変更を伴う。

組曲師 (talk · contribs) · Public domain · Image source
zh-Hant

Hugging Faceは[Diffusers 0.40.0](https://github.com/huggingface/diffusers/releases/tag/v0.40.0)をリリースした。最も構造的な変更は、Modular Diffusersが実験的機能ではなくなったことだ。新アーキテクチャでは、テキストエンコーディング、条件処理、ノイズ除去、オフロード、デコードをコンポーザブルなblockに分割する。さらに、MiniMax H3、MiniMax Music 3、Wan-Animate-2にはmodular pipelineのみが提供され、対応する従来型の`DiffusionPipeline`は存在しない。これは、新しいモデルの統合が、入力の組み合わせごとに巨大なpipelineクラスを複製する方式ではなく、ワークフローグラフに依存し始めたことを意味する。

MiniMax H3を例にすると、同一のモデルリポジトリに、テキストから動画への生成、開始・終了フレームによる条件付け、マルチメディア参照という3種類のワークフローが収められている。`from_pretrained`では、ロード時にワークフローを絞り込み、関連するcheckpointのシャードだけを宣言してダウンロードできる。TransformerとQwen3-VL conditionerはいずれも60GBを超えるため、公式サンプルでは`ComponentsManager`を使用し、コンポーネントをCPUとGPUの間で段階的に移動させている。0.40ではgroup offloadと自動オフロードの併用も可能になり、CLIからカスタムblockの保存、workflowの選択、動画のバッチ出力ができるようになった。

コア実行レイヤーには、CUDAおよびAWS Neuron向けのtensor parallel公開インターフェースが追加された。ただし、現時点でデフォルトの分割プランが対応するのはFLUX.1、FLUX.2、Qwen-Imageのみであり、すべてのモデルをそのままスケールアウトできるという意味ではない。量子化ではSDNQが追加され、INT8から2-bitまでに加え、FP8、SVD補正、Hadamard rotationをサポートする。また、Nunchaku Liteの事前量子化済み重みもロードできる。

移行リスクも明確だ。すべてのJAX/Flaxクラスとextrasが削除され、`torch_dtype`は非推奨となった。rankが混在しalphaを持たないLoRAは、モジュールごとの正しいスケールでロードされるようになったため、既存プロジェクトでは出力が変化する可能性がある。さらに、新バージョンでは、シャーディングされたcheckpointのインデックスに起因するパストラバーサルと、ディレクトリ外にあるファイルの読み取りに関する脆弱性も修正された。エンジニアリングチームは、単にコードを正常にimportできるか確認するだけでなく、アップグレード前に固定seedによる画像回帰結果を保存し、カスタムpipeline、LoRA、Flax依存関係を検証すべきだ。

出典

  1. Diffusers 0.40.0 release notes
  2. MiniMax-H3 pipeline documentation
  3. diffusers 0.40.0 package