所有文章 · SURL AI News

Transformers 提出統一量化架構草案，MXFP4 遷移可能改變舊 GPU 載入行為

Transformers 維護者於 10 月 20 日提出共用區塊量化架構，規劃整合 FP8、MXFP4 等格式與混合精度載入。MXFP4 草案同時提高量化核心的硬體門檻，A100、T4 與 CPU 的執行方式可能改變，目前尚未合併。

10 月 20 日的 Dify 社群回報指出，刪除知識庫資料集時，清理程序可能刪掉另一資料集仍在使用的附件。修補提案已加入跨資料集引用檢查，但尚未合併，正式版本與雲端服務的影響範圍仍待確認。

10 月 19 日的 LangChain 社群回報指出，兩種內建中介軟體的排列順序，可能讓已完成的模型呼叫漏記，導致對話累計限額失效。另一名貢獻者表示已重現並準備修補，但尚無維護者確認或正式修復版本。

10 月 19 日的 Dify 社群回報指出，索引寫入期間刪除文件，可能留下孤立項目，讓檢索結果少於設定數量。修補提案已附測試，但尚未合併，也不會清除既有殘留資料。

Hugging Face 於 10 月 19 日發布 Transformers 5.20.2，修復生成流程搬移輸入時遺失容器型別、影響多模態模型的問題。新版也正式納入特定專家平行配置的 BF16 梯度修補，為先前社群回報提供可部署版本。

10 月 16 日的 Dify 社群回報指出，內建中繼資料的寫入格式不一致，可能造成時間篩選失敗或來源篩選漏掉文件。修補提案已提出，但尚未合併，也未包含既有資料遷移。

Kyutai 於 10 月 16 日公布 REKI，公開預訓練與微調權重，以及資料處理、訓練和部署程式碼。模型在動作專家中加入短期記憶，官方測試顯示可減少反覆動作，但權重限非商業用途，效能仍待獨立重現。

10 月 17 日的 Transformers 社群回報指出，Mask2Former 部分投影層以一般 Python 串列保存，可能漏出最佳化器與裝置搬移流程。社群已提出修補，但正式修復版本與實際分割準確率影響仍待確認。

Ollama 於 10 月 16 日發布 0.40.6，修正 Windows 命令列服務遭強制終止後，推論子程序可能繼續執行的問題。新版利用作業系統管理程序生命週期，涵蓋 llama-server 與 MLX runner。

NVIDIA 於 10 月 16 日發布 Dory 1.0，以重複執行共享層的方式，讓同一份 4B 權重支援不同推論計算預算。模型提供最後迴圈 KV 快取選項，但效能仍屬官方測試，主要推論框架的支援也尚待整合。

ROCm TheRock 維護者於 10 月 16 日將 PyTorch 發布流程的套件錯配問題標記為已修復或緩解。修補加入版本綁定並調整正式分支的版本號，但官方安裝文件仍列出部分 alpha 套件，部署者須核對實際組合。

Dify 社群於 10 月 15 日回報，知識庫分段退回逐字元切割時會刪除單一換行，將原本獨立的資料列黏合。10 月 16 日已有貢獻者回報重現並提出修補，但提案尚未合併，實際檢索影響仍待量測。