開放模型與多模態推論
DeepSeek-V4-Flash-Vision-Exp、305Bの重みを公開。ただしvLLMはまだ視覚テンソルを読み込めず
DeepSeekはAPI公開から10日後、初のV4マルチモーダルモデルの重み、プロンプトエンコーダー、最小構成のPyTorch推論実装をMITライセンスで公開した。モデルカードには汎用的なデプロイ手順が示されているものの、vLLMコミュニティによる検証では、316個の視覚テンソルに対応するモジュールがないため、依然として直接読み込めないことが確認されている。

DeepSeekは、305Bパラメータの**DeepSeek-V4-Flash-Vision-Exp**の重みをHugging Faceで公開し、8月21日時点ではホスト型APIしか提供されていなかった空白を埋めた。これはV4シリーズ初の公式マルチモーダル版だ。V4-Flashに視覚エンコーダーとアライメントモジュールを追加し、画像、テキスト、ツールを組み合わせた入力を処理できるよう継続学習を行っている。重みとリファレンスコードにはMITライセンスが適用される。
公開されたのはcheckpointだけではない。リポジトリには、OpenAI形式のメッセージをモデルプロンプトへ変換するエンコーダーのほか、vision encoder、aligner、DFlash attention、MoE、Hyper-Connections、DSpark forward pathを網羅する最小構成のPyTorch実装が含まれている。また、JSONの画像コンテンツブロックと`<image>path</image>`表記から同一のtoken列が生成されるため、推論フレームワークは前処理結果を照合しやすい。公式APIはbase64、外部URL、Files APIによる画像入力に対応し、画像1枚につき最大384 tokenとして課金される。
DeepSeekの自己評価によると、同モデルのApexBench Pass@1は36.5で、画像入力を無視するV4-Flash-0731の26.2を上回った。ZeroBench Pass@5は35.0だった。一方、テキストエージェント評価が全面的に向上したわけではなく、たとえばCybergymは76.7から75.3へ低下している。さらに、すべての数値はDeepSeek Harness、最高の推論強度、指定されたsampling parametersを用いて得られたものであり、ほかのエージェントスタックへそのまま一般化することはできない。
デプロイ担当者は特に、Hugging Faceページで自動生成される`vllm serve`の例を互換性の証明とみなすべきではない。vLLMで新たに作成されたサポートissueによると、現在のルーティングではcheckpointがテキスト専用クラスへ渡されるため、316個の視覚テンソルに対応する格納先が見つからない。今後は、vLLM/SGLangへの正式なモデル統合、VRAMおよびマルチGPUトポロジーの要件、そして第三者がマルチモーダルエージェントのスコアを再現できるかどうかを注視する必要がある。