LLaDA-Image、中英バイリンガルの画像生成・編集モデルを公開、Turboはサンプリングを4ステップまで短縮

InclusionAIは9月4日、LLaDA-Imageシリーズのモデルウェイトと推論コードを公開した。中核となるのはゼロから学習した6B Diffusion Transformer（DiT）だ。完全なパイプラインには、凍結されたLLaDA 2.0 Mini視覚言語モジュールも組み込まれており、Hugging Faceではチェックポイント全体が約7Bと表記されている。テキストプロンプトは、Residual Query Adapter、理解モデル、コネクターを介してDiTの条件情報へ変換される。画像編集では、参照画像のSigLIP-VQ特徴量とクリーンなVAE latentをDiTへ直接入力することで、意味表現のエンコードだけに依存した場合に構図やピクセルレベルの細部が失われる問題を回避している。

技術的に特に注目すべきなのは、データパイプラインだ。チームはまず画像の自己条件付けによって視覚的事前分布を構築し、その後、ペア化されたテキストデータを追加して、画像生成と編集を共同学習した。約2億2,000万件に上る生成サンプルのうち98%は実画像で、90%以上が画像単一モダリティ段階に使用された。モデルは学習可能なパラメータを持たないRMSNormとMuon optimizerによって学習を安定化している。Turbo版ではさらにTwinFlow／分布マッチング蒸留を採用し、Baseで推奨される50回のサンプリングを2～4回に削減した。著者らが実施したQwen-Image-Benchでは、Baseの英語と中国語の総合スコアはそれぞれ53.53と53.38で、オープンソースモデルとして首位だとしている。一方、Turboは品質の一部と引き換えにレイテンシーを短縮する。

実装面では、PyTorch 2.8とDiffusers 0.39を使ってBF16またはFP8ウェイトを直接読み込める。単一のチェックポイントで、テキストからの画像生成、VQ条件付き生成、指示ベースの編集をカバーする。ただし、2つの注意点がある。ベンチマーク結果はまだ独立した第三者によって再現されていない。また、リポジトリは「完全に公開された学習レシピ」を掲げているものの、公開時点で提供されているのは推論コードとウェイトのみで、学習コードは依然として「coming soon」とされている。今後は、公開される学習コードで各段階を再構築できるか、そしてFP8によって中国語の字形、長文テキスト、参照画像との一貫性が実際にどの程度劣化するかを見極める必要がある。