返回首頁

GitHub Repo

Transformers 提出統一量化架構草案,MXFP4 遷移可能改變舊 GPU 載入行為

Transformers 維護者於 10 月 20 日提出共用區塊量化架構,規劃整合 FP8、MXFP4 等格式與混合精度載入。MXFP4 草案同時提高量化核心的硬體門檻,A100、T4 與 CPU 的執行方式可能改變,目前尚未合併。

Andrew Wippler from Lancaster, USA · CC BY 2.0 · Image source
zh-Hant

Hugging Face Transformers 維護者 IlyasMoutawwakil 於 10 月 20 日提交一組量化重構草案,準備讓 FP8、MXFP4、NVFP4 與 MXFP8 共用載入及運算基礎。核心提案目前仍是 Draft,且本身未註冊任何格式,不能視為已推出的新功能。共用架構提案

架構重點是以 BlockScaledConfig 與 BlockScaledQuantizer 統一區塊縮放格式,再由 FineGrainedConfig 的 dtype_plan,按模組名稱模式指定不同格式。提案也處理 MoE 專家權重與縮放值的排列:不同核心若要求不同布局,切換時會報錯,避免以錯誤順序配對權重。對維護混合精度模型的工程師而言,這提供了集中描述載入規則的方向。架構與布局設計

相依的 MXFP4 草案則規劃支援 W4A16、W4A8 與 W4A4,並讓 GPT-OSS 與 ModelOpt 檢查點進入共用路徑;其中 W、A 分別代表權重與啟用值精度。不過,草案明列所有 MXFP4 格式將要求 GPU 運算能力至少 8.9,原因是核心使用 Triton 的 FP8 型別;GPT-OSS 在 A100、T4 上將改為反量化成 BF16,CPU 也改走反量化。MXFP4 遷移草案

這項相容性變化值得提前追蹤。目前官方文件列出的 MXFP4 門檻仍是運算能力至少 7.5,並說明支援環境會自動下載及使用量化核心。因此,若草案照此合併,部分既有部署的記憶體需求與效能可能改變;這是根據執行精度變化的推論,尚無此草案的實測數據可量化影響。現行 MXFP4 文件

工程團隊接下來應追蹤硬體回退規則是否調整、各格式提案何時合併,以及正式版本的遷移說明。評估時需同時檢查載入後精度、峰值記憶體與生成速度,不能僅以檢查點標示的四位元格式判斷實際執行成本。

來源

  1. Fine-grained block-scaled quantization: the shared machinery — PR #49776
  2. MXFP4 on the fine-grained machinery — PR #49778
  3. Transformers documentation: MXFP4