Meta 公開 Muse Spark Open 權重，816B 多模態模型提供 BF16 與 NVFP4 版本

Meta 於 10 月 15 日公開 Muse Spark Open 權重，將文字、影像、音訊與影片輸入整合至同一模型，輸出則為文字。模型定位於程式開發與長回合代理任務，包括跨檔案修改、工具呼叫及錯誤恢復；官方同步列出 SGLang、vLLM、Transformers、MLX 與 llama.cpp 等推論路徑，讓團隊能自行部署及調整模型。Meta 發布說明

架構上，Muse Spark Open 具有約 816B 總參數，每個 token 啟用約 42B。語言模型包含 62 層，每個 MoE 區塊設有 256 個專家，路由器每次選取 8 個；注意力採用 128 個查詢頭與 16 個 KV 頭，並加入 QK 正規化。這種設計降低每 token 參與運算的參數量，但其餘專家權重仍需儲存，不能直接以 42B 模型估算部署容量。官方模型卡

發布版本包含 BF16 與 NVFP4。Hugging Face 表示，BF16 權重檔約為 1.5 TB；另以 512 GB 記憶體的 M3 Ultra 測試 oQ3e 量化版本，模型占用約 344 GB。在輸入 1,024 token、生成 128 token 的條件下，測得提示處理約每秒 225 token、生成約每秒 21 token。這提供了具體的本機執行參考，但尚不能代表百萬 token 上下文、多使用者並行或完整代理流程的表現。Hugging Face 部署與測試

對工程團隊而言，這次發布增加了可自行託管的多模態代理模型選項，也讓截圖觀察、程式修改與工具執行有機會共用同一模型。評估時仍須把權重、KV 快取及執行期緩衝分開計算，並測量量化後的工具呼叫成功率與長任務完成率。官方模型卡列出預設推理強度為 xhigh，延遲與輸出 token 成本也應納入比較；中文程式註解、文件理解及繁體中文指令遵循，則仍需另做實測。模型設定與限制

授權採用 Muse Model License，附有使用及部分商業條件，導入前應核對自身服務型態。後續值得觀察的是各推論框架的穩定版本支援，以及不同硬體、量化精度和上下文長度下的可重現測試。Meta 授權說明