最新模型
JetBrains 釋出 Mellum2.1 開放權重，以真實儲存庫強化學習提升程式代理能力
JetBrains 於 10 月 8 日發布 Mellum2.1 Thinking，維持 12B MoE 架構，將更新重點放在真實軟體環境中的強化學習。權重採 Apache 2.0 授權，但代理評測仍屬廠商自報，量化部署也需另行驗證。
Archive
推論系統
推論 runtime、量化、 serving、KV cache、成本與效能。
最新模型
GitHub Repo
PyTorch 開發版回報 CUDA Graph 複製缺陷，延遲複製張量可能在重播時讀取舊資料
10 月 7 日的 PyTorch 與 TorchTitan 回報指出，copy-on-write 張量在 CUDA Graph 擷取期間實體化，可能漏記複製操作，導致重播產生錯誤結果。案例附有最小重現與 MoE 推論對照，但正式版本影響範圍及上游修補仍待確認。
最新模型
Anthropic 推出 Claude Haiku 5.5，首度為 Haiku 加入推理強度控制與分級長提示價格
Anthropic 於 10 月 7 日發布 Claude Haiku 5.5，支援可調推理強度，並降低短提示請求的 token 單價。AWS 同步提供模型，但長提示價格、跨區路由與實際任務成本仍須分別評估。
GitHub Repo
Ollama 社群提出串流錯誤診斷修補，Windows 長提示請求可能推論完成卻回傳 500
10 月 7 日的 Ollama 社群案例指出，Windows 上的長提示請求可能在底層完成生成後，仍回傳 JSON 解析錯誤。新修補提案旨在揭露被遮蔽的傳輸錯誤，但尚未合併，也未解決連線中斷的根因。
GitHub Repo
Transformers 社群回報量化快取缺陷，批次追加 token 可能超出全精度緩衝門檻
10 月 7 日的開發版重現指出，QuantizedCache 在重用前綴後追加多個 token，可能保留超過設定門檻的全精度快取。案例提供無須下載權重的測試，但尚無維護者確認，也未驗證 GPU 記憶體與輸出品質影響。
最新模型
Liquid AI 釋出 d1 決策模型權重，以單次前向推論處理文字與影像分類
Liquid AI 於 10 月 7 日發布 d1-3B 與實驗性的 d1-omni-600M，直接回傳結構化決策，無須逐字生成答案。模型已有本機與 Jetson 部署範例，但低延遲數字依賴暖機條件，評測結果也仍以廠商測試為主。
最新模型
Google 推出 EmbeddingGemma 2，以模組化編碼器支援裝置端多模態檢索
Google 於 10 月 6 日發布 EmbeddingGemma 2，將文字、程式碼、影像、影片與音訊映射到共同向量空間，並以 Apache 2.0 開放權重。模型可按需求載入編碼器，但量化記憶體數據與全精度評測仍須分開解讀。
GitHub Repo
Ollama 社群實測：M5 Pro 上量化決策模型的提示處理比 BF16 慢
10 月 7 日的 Ollama 社群測試顯示，三款決策模型在 M5 Pro 上使用 MLX 量化格式時，長提示請求延遲高於 BF16。回報附有測量方法與重現指令，但反量化是否構成瓶頸，仍待維護者確認。
GitHub Repo
Ollama 社群回報雙模型載入崩潰，Qwen3-VL 圖像編碼階段出現 GPU 配置錯誤
10 月 6 日的社群案例指出，另一個大型模型已占用雙 GPU 時，Qwen3-VL 圖像請求可能讓推論程序連續崩潰。回報附有核心傾印堆疊，但顯存壓力與空指標的因果關係仍待維護者確認。
GitHub Repo
Hermes Agent 社群提出上下文覆寫修補，自訂供應端名稱轉換可能讓設定失效
10 月 6 日的社群案例指出，Hermes Agent 接上自訂模型代理後，上下文長度快取與手動覆寫可能阻擋代理啟動。針對覆寫失效的修補已提出，但仍是草稿，尚未處理快取過期問題。
GitHub Repo
PyTorch 社群回報編譯器漏乘係數，2.14 CUDA 動量更新可能放大十倍
10 月 5 日的 PyTorch 社群重現指出，Inductor 在特定裁剪與縮放組合下，可能遺失加法的 alpha 係數。修補草稿已於 10 月 6 日提出，但尚未合併，完整訓練影響仍待驗證。
GitHub Repo
Ollama 社群提出串流順序修補，文字接工具呼叫可能讓 Responses 客戶端拒收
10 月 5 日的社群案例指出，Ollama 在先輸出文字、再呼叫工具時，可能重複使用輸出索引並漏送訊息完成事件。修補提案已附回歸測試，但尚未合併，也未進行實際模型推論驗證。