所有文章 · SURL AI News

llama.cpp 改寫 Adreno 矩陣乘法路由，兩代晶片的提示預填加速 9% 至 25%

llama.cpp b10687 針對 Snapdragon X2 與較舊 A7X GPU，避開 OpenCL 編譯器選中的低效矩陣乘法路徑。維護者測得 gpt-oss-20b 與 Gemma 3n 的提示預填分別加速約 20% 至 25% 及 9%，但逐 token 解碼並未變快。

Hugging Face 與 Voice Arena 以 Monsoon 資料集擴充開放語音辨識排行榜，四個公開及私有分割涵蓋 4,888 名說話者。印地語改用可接受多種拼法的參考格狀結構，避免傳統單一轉錄把正確辨識誤算成錯字。

Lemmalog 將代理記憶拆成由 LLM 擷取的事實，以及由規則引擎維護的可驗證狀態。初步評測顯示它能大幅縮短回答階段的上下文，但整體準確率仍受事實擷取與實體對齊限制。

FastVideo 以 DMD2 蒸餾與 90% 稀疏注意力，把基礎模型的 49 次 DiT 呼叫縮減為四次，並公開完整權重與 LoRA。即時生成數字依賴八張 B200、專用 VSA 核心及暖機後測試，單卡與一般消費級 GPU 尚未達到同等速度。

NVIDIA 在 0.0.113 強化本地推論與狀態漂移驗證後，再把沙箱、推論服務及生命週期權限綁定至可持久驗證的身分，避免重試或復原操作接管同名但不同的執行環境。

Pollen Robotics 將 Microduck 的控制執行期、MuJoCo 模擬環境、PPO 訓練配方及七種出廠策略以 Apache 2.0 開放。399 美元預購價降低實體強化學習門檻，但策略泛化、硬體耐用度與量產交付仍待社群驗證。

Cursor 不再要求先連接既有 GitHub 等原始碼庫，代理可直接建立專案並透過瀏覽器操作即時環境。新流程縮短原型到部署的距離，也擴大了雲端執行、網路暴露與供應鏈權限的稽核範圍。

CritICL 先離線整理小模型的錯誤、失敗類型與批評，再把相關案例放入大模型提示，而非為每題反覆採樣。作者在 Qwen2.5 數學測試報告略高於 self-consistency 的準確率，但離線建庫成本與尚未釋出的程式碼限制了可重現性。

Experiential 把雲端、自帶金鑰及本機模型統一到 OpenAI 相容介面，並提供身分範圍、模型白名單與硬性預算控制。它還能用 OpenTelemetry 代理軌跡建立任務路由器，但節省成本的數字目前主要來自團隊自行評測。

Debian 開發者選出「負責任使用生成式 AI」方案，沿用既有品質與授權標準，由提交者對 AI 輸出負全責。決議不強制揭露 AI 使用，但明確限制敏感資料外送，並要求大規模自動化修改先經討論。

新版加入 `on_mcp_tool_result` 生命週期介面，讓擴充套件檢查或替換 MCP 的成功與錯誤結果。這提供資料遮罩與輸出正規化的新控制點，也把擴充套件提升為需要稽核的代理信任邊界。

OpenAI Python SDK 已將同步與非同步預設客戶端從 HTTPX 換成 HTTPX2，並停止把舊版 `httpx` 與 `certifi` 當作傳遞相依套件。一般 API 呼叫大致不變，但企業代理、客製 transport、RESPX 測試及憑證信任設定可能在升級後失效。