LLaDA-Image、単一の6B拡散モデルで画像生成と編集を統合、Turboは4ステップのサンプリングを実現

inclusionAIは9月4日、LLaDA-Image Base、Turbo、FP8の重みと推論コードをリリースした。論文では、これを60億パラメータの統合画像モデルと説明している。生成バックボーンにはゼロから学習したDiffusion Transformerを採用し、プロンプト理解は凍結されたLLaDA2.0-Mini視覚言語モジュールが担う。同一のチェックポイントで、テキストからの画像生成、LLaDA2が生成する離散視覚トークンを用いたVQ条件付き生成、参照画像の内容を維持する指示ベースの編集を実行でき、専用のediting backboneを追加する必要はない。

学習プロセスは当初から画像・テキストのペアに全面的に依存するのではなく、まず画像のみの事前学習と中間学習によって視覚的事前知識を構築し、その後に言語による教師信号と、生成・編集の共同学習を導入する。著者らによると、全工程では2億2,000万件のサンプルを使用し、そのうち9,800万件が実画像だった。DiTにはパラメータを持たないRMSNormとMuonオプティマイザを採用している。Turbo版はさらにTwin-DMDを用いてBaseから蒸留され、50ステップの処理を推奨4ステップまで短縮した。公式にはBF16版とFP8版も提供され、重みの読み込みに必要なメモリ容量を削減している。

著者らはQwen-Image-Benchで英語53.53、中国語53.38を報告し、オープンソースモデルとして最高の成績だと主張している。中国語の文字組みや、生成と編集で共通のパイプラインを必要とするチームにとって魅力的だが、現時点の数値は主に著者ら自身の評価によるもので、解像度別のレイテンシ、ピークVRAM使用量、FP8による品質低下は明らかにされていない。さらに重要なのは、論文では完全な学習コードを公開済みとしている一方、プロジェクトページでは依然として「coming soon」と表示されている点だ。また、Hugging Faceのmetadataでは約70億パラメータと示されており、論文における60億という表現とも完全には一致しない。エンジニアリングチームは、学習コード、モデル構成の説明、第三者による中国語・英語テキストおよび編集一貫性のテストが揃うのを待ってから、再現性を判断すべきだ。