所有文章 · SURL AI News

PyTorch 開發版回報 CUDA Graph 複製缺陷，延遲複製張量可能在重播時讀取舊資料

10 月 7 日的 PyTorch 與 TorchTitan 回報指出，copy-on-write 張量在 CUDA Graph 擷取期間實體化，可能漏記複製操作，導致重播產生錯誤結果。案例附有最小重現與 MoE 推論對照，但正式版本影響範圍及上游修補仍待確認。

10 月 7 日的開發版重現指出，QuantizedCache 在重用前綴後追加多個 token，可能保留超過設定門檻的全精度快取。案例提供無須下載權重的測試，但尚無維護者確認，也未驗證 GPU 記憶體與輸出品質影響。

Liquid AI 於 10 月 7 日發布 d1-3B 與實驗性的 d1-omni-600M，直接回傳結構化決策，無須逐字生成答案。模型已有本機與 Jetson 部署範例，但低延遲數字依賴暖機條件，評測結果也仍以廠商測試為主。

10 月 7 日的社群案例指出，Ollama 更新後將模型清單寫成符號連結，Windows 隨後拒絕讀取，導致 CLI 與 API 請求失敗。回報附有檔案屬性與遷移日誌，但開發者模式是否為觸發條件，仍待上游確認。

10 月 6 日的社群案例指出，另一個大型模型已占用雙 GPU 時，Qwen3-VL 圖像請求可能讓推論程序連續崩潰。回報附有核心傾印堆疊，但顯存壓力與空指標的因果關係仍待維護者確認。

10 月 5 日的 PyTorch 社群重現指出，Inductor 在特定裁剪與縮放組合下，可能遺失加法的 alpha 係數。修補草稿已於 10 月 6 日提出，但尚未合併，完整訓練影響仍待驗證。

10 月 5 日的社群案例指出，Ollama 在先輸出文字、再呼叫工具時，可能重複使用輸出索引並漏送訊息完成事件。修補提案已附回歸測試，但尚未合併，也未進行實際模型推論驗證。

Transformers 5.12.0 的社群案例指出，啟用節省 CPU 記憶體的載入選項後，其他訓練程序仍可能配置完整模型，導致主機記憶體耗盡。官方文件確認該選項應避免各程序重複載入，但問題根因與修復狀態仍待上游確認。

PyTorch 開發版的重現案例顯示，非整數縮放倍率若仍產生相同輸出尺寸，CUDA 雙三次插值可能直接回傳輸入值。社群已提出修補，但尚未合併，正式版本影響範圍仍待確認。

vLLM 開發版的重現案例顯示，啟用批次不變性後，模型資訊快取與模組匯入順序仍可能改變推論結果。社群已提出修補，但尚未合併，正式版本與其他硬體的影響範圍仍待確認。

Ollama 0.35.1 的社群重現案例指出，lfm2:24b 可能漏掉特定位置的 python 字串，連帶改變 JSON 值與文件內容。問題目前仍待上游確認，尚無足夠證據判定是分詞解碼、模型封裝或硬體路徑造成。

vLLM 0.30.0 的社群案例顯示，圖片請求加入 chat_template_kwargs 後，模型可能只收到文字，伺服器仍回傳成功。問題尚待上游確認，結合視覺輸入與思考模式控制的部署應驗證實際輸入。