GitHub Repo
PyTorch 社群回報二階梯度缺陷,自訂微分函式經編譯後可能靜默漏算
PyTorch 社群於 11 月 13 日回報,自訂 autograd.Function 搭配 torch.compile 時,二階微分可能遺失部分梯度貢獻。另一位貢獻者已在 CPU 重現,但修補方式與完整影響範圍仍待確認。
Archive
新模型、開放權重、多模態、語音、影像與模型架構。
GitHub Repo
PyTorch 社群於 11 月 13 日回報,自訂 autograd.Function 搭配 torch.compile 時,二階微分可能遺失部分梯度貢獻。另一位貢獻者已在 CPU 重現,但修補方式與完整影響範圍仍待確認。
GitHub Repo
llama.cpp 於 11 月 13 日發布 v1.0.0,與 ggml 同步以主版本號標示 API、ABI 不相容變更。新版也加入 FP8 KV 快取與主記憶體 MoE 專家快取,下游整合須先檢查已移除的介面。
GitHub Repo
PyTorch 社群於 11 月 13 日回報,DTensor 的 any/all 在特定分片配置下會收集完整張量,放大模型初始化的通訊成本。11 月 14 日提出的修補改採局部歸約,但尚未合併,標量讀取的相容性仍待審查。
最新模型
Perplexity 於 11 月 12 日發布 Decider v1.3 與 Flash 版本,讓決策模型兼具分類、評分與原文片段擷取能力。模型採 Apache 2.0 授權,但自行部署須配合專用推論介面,並驗證批次處理與機率校準的影響。
GitHub Repo
Dify 社群於 11 月 14 日回報,知識檢索等待嵌入模型與向量資料庫時持續占用 SQL 連線,可能造成逾時或跳過檢索。回報提供自架環境的對照測試,但尚待維護者確認與正式修補。
GitHub Repo
Ollama 社群於 11 月 13 日回報,Qwen 工具呼叫解析器可能改寫程式碼參數,並因串流切分方式遺失呼叫。問題已提供具體觸發案例,但尚無公開修補 PR 或維護者確認。
推論系統
vLLM-Omni 團隊於 11 月 12 日公布 MiniMax H3-Image 的 Vera Rubin 部署與效能測試,四卡短提示詞測試達到約 0.87 秒中位延遲。每小時 6,115 張的峰值吞吐則來自另一組副本配置,工程團隊須分開評估互動速度與服務容量。
GitHub Repo
Hugging Face 於 11 月 13 日發布 Transformers 5.23.0,以 ExportedModel 統一多種後端的匯出、儲存與載入流程。這項變更改善部署產物的追溯能力,也帶來既有匯出程式的相容性調整。
GitHub Repo
Transformers 社群於 11 月 13 日回報,Gemma 3 使用特定 Flash Attention 後端時,圖片 token 的雙向注意力會被丟棄。議題附有最小重現與輸出差異,但完整模型的品質影響及修補版本仍待確認。
最新模型
Thinking Machines 於 11 月 12 日開放 Inkling 2 Small 權重,將先前限於服務使用的多模態模型擴展至自行部署與微調。模型採 594B 總參數、17B 啟用參數的 MoE 架構,工程團隊仍須留意顯存、上下文長度與推論框架限制。
最新模型
IBM 於 11 月 12 日發布 Granite 4.1 的 3B、8B LLMON 實驗模型,讓指令、資料與工具結果具有明確的區塊關係。官方測試顯示靜態間接提示注入的抵抗力改善,但這仍是學習行為,尚非安全保證。
最新模型
Google 於 11 月 12 日發布 Gemini 4 Hydrogen,並在 Antigravity 加入動態切換模型的 Orchestrator。新版提供百萬 token 統一上下文,但最高推理強度的獨立評測顯示,較低單價未必換來較短任務時間。