所有文章 · SURL AI News

X-AuT 逐級裁剪 Qwen3-ASR 音訊塔，車載編碼延遲降低 21.4%

小鵬以行為探針、跨尺度蒸餾及 LoRA，把 Qwen3-ASR-0.6B 的音訊編碼器由 18 層縮至 14 層。權重與推論程式已公開，但完整蒸餾流程及逾 28 萬小時訓練資料仍未釋出。

新版以同一套 WebSocket 執行層服務 MiniCPM‑o 4.5、PersonaPlex 與 Nemotron VoiceChat，並加入 diffusion batching、平行化和元件卸載。它目前仍是預發行版，部分端點會靜默退回輪替式語音，不能只憑連線成功判定為全雙工。

新方法把循環網路的每次更新排列成由雜訊走向答案的連續流，使模型不必完整反向傳播所有迭代也能學習跨步狀態。推論時可增加積分步數換取更多計算，並從不同初始雜訊產生多個候選解。

Sakana AI 推出 Fugu Max 與 Fugu Ultra v2，分別把多模型編排最佳化為低成本與高能力兩條路線。兩者沿用 OpenAI 相容介面，但官方基準仍混合自有測試與供應商成績，尚不足以證明實際工作負載的成本優勢。

Anthropic 的新威脅報告顯示，多類攻擊者已把 Claude 從程式助手升級為可排程、具持久記憶的攻擊編排層。部分工作流會在惡意程式遭偵測後自動修改、重建並重新部署，但目標選擇與贓物審查仍主要由人類掌握。

OpenAI 把能同時聆聽、說話及處理插話的 GPT‑Live‑1 開放給開發者，並允許語音前端把複雜推理與工具操作委派給其他模型。新架構減少 STT、LLM、TTS 間的脆弱交接，但後端推理、工具及通話基礎設施仍會另外計費。

ARCHE 將文獻檢索、競爭假設、電子結構計算與反思審查放進可恢復的閉迴路，並公開 65 種動作及三個案例資料。儲存資料與論文數字已有差異，專用模型權重、訓練資料及部分化學證據也未隨程式釋出。

Auto-RecSys 將研究構想、分散式訓練、故障恢復與結果分析串成可跨工作階段延續的雙迴圈。31 輪內部實驗顯示操作修復次數由每輪 4.0 次降至 0.5 次，但尚未證明代理提出的模型改動能穩定改善推薦品質。

NVIDIA 公開兩個 Nemotron 3 Ultra 數學專家權重、訓練資料與可恢復的自然語言證明管線，正式成績為 30／42 分。結果也暴露模型驗證器的共同盲點：內部評分高估兩題，且高精確率是以大量誤拒與運算成本換得。

新開源框架用預測式路由提前載入下一步專家，並以 Recover-LoRA 補償 int4 量化損失，讓 23GB checkpoint 不必整體常駐記憶體。官方在 M4 Pro 測得 14.9 至 17.7 token／秒，但目前僅支援 Apple Silicon，記憶體與品質數據也尚無獨立重現。

Microsoft 更新託管式 LLM Speech，主打混合語言、專有名稱與數字辨識，並宣稱部分情境延遲較 2605 版最多降低三倍。新版沿用現有 Fast 與即時 API，卻會在服務端自動部署，因此既有語音代理也需要自行建立回歸測試與版本觀測。

Dynamo 現可將視覺編碼、LLM 預填充與解碼分配給獨立工作程序及不同等級 GPU，避免影像請求阻塞純文字流量。官方測試雖顯示首 token 與端到端延遲最高改善 5 倍、7 倍，但長輸出或大型稠密模型可能抵銷拆分收益。