開放模型與評測
Ling-3.0-flash-VL、低精度ウェイトが出揃うも、独立評価の25点は公式の42点と直接比較できず
InclusionAIの124BマルチモーダルMoEにFP8、FP4、INT4ウェイトと実行可能なSGLangレシピが追加され、画像、動画、ツール呼び出しが単一モデルに統合された。Artificial Analysisによる最新の独立テストは25点だったが、モデルカードが主張する42点とは評価バージョンが異なるため、デプロイ担当者は両者を同じ尺度の数値として扱うべきではない。
Ling-3.0-flash-VLのリリース内容は週末にかけて、より充実したものとなった。MITライセンスのBF16ウェイトに加え、InclusionAIはFP8、FP4、INT4版を公開し、モデルカードも検証済みのSGLang起動レシピに更新した。モデルの総パラメータ数は124Bだが、スパースMoEにより各tokenで有効化されるのは約5.5Bにとどまる。ビジョン側ではViTが画像と動画の特徴を抽出し、2層MLPを介して言語表現へ投影する。42層のバックボーンはKDAとGated MLAを5:1の比率で交互に配置し、VideoRoPEが空間的位置と時間的順序を同時にエンコードする。公称最大コンテキスト長は256K tokenだ。
ただし、実際のデプロイに必要なハードウェアコストは「5.5Bモデル」相当ではない。公式のBF16レシピでは、約141GBクラスのGPUを4基使用する構成が推奨されており、80GBのH100／H800では8基に増やす必要がある。SGLangはYaRNを使って元の131Kの位置範囲を262,144まで拡張し、Ling3 reasoning parserとtool-call parserを自動的に選択する。現時点のvLLM経由の実行では、InclusionAIの専用ブランチと`trust-remote-code`の使用が必要であり、アップグレード、サプライチェーン審査、upstream vLLMとの互換性もデプロイ時の確認項目に含めるべきだ。
評価データには、今後追跡すべき乖離が見られる。公式モデルカードはArtificial Analysis Intelligence Index v4.1.1で42点を獲得したとしている。一方、Artificial Analysisが現在v4.3で独立評価として掲載しているスコアは25点で、約140.7 token/秒、time to first tokenは1.78秒、評価で生成された出力は最大1.6億tokenと記録されている。2つのスコアは評価バージョン、問題セット、実行条件が異なるため、モデルの性能が低下した、あるいは公式数値が覆されたと直接解釈することはできない。また、速度はInclusionAI APIで測定されたものであり、自己ホストした量子化checkpointによる結果ではない。エンジニアリングチームは次の段階として、同一バージョンでの再評価を待つとともに、動画理解、GUI操作、ツール呼び出し形式、長いコンテキストにおけるBF16、FP8、FP4、INT4の品質と実メモリ使用量を比較すべきだ。