代理工具
Meta 讓推薦系統研究代理跨伺服器接手多日 GPU 實驗,操作修復次數降至每輪 0.5 次
Auto-RecSys 將研究構想、分散式訓練、故障恢復與結果分析串成可跨工作階段延續的雙迴圈。31 輪內部實驗顯示操作修復次數由每輪 4.0 次降至 0.5 次,但尚未證明代理提出的模型改動能穩定改善推薦品質。
Archive
AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。
代理工具
Auto-RecSys 將研究構想、分散式訓練、故障恢復與結果分析串成可跨工作階段延續的雙迴圈。31 輪內部實驗顯示操作修復次數由每輪 4.0 次降至 0.5 次,但尚未證明代理提出的模型改動能穩定改善推薦品質。
最新模型
NVIDIA 公開兩個 Nemotron 3 Ultra 數學專家權重、訓練資料與可恢復的自然語言證明管線,正式成績為 30/42 分。結果也暴露模型驗證器的共同盲點:內部評分高估兩題,且高精確率是以大量誤拒與運算成本換得。
GitHub Repo
新開源框架用預測式路由提前載入下一步專家,並以 Recover-LoRA 補償 int4 量化損失,讓 23GB checkpoint 不必整體常駐記憶體。官方在 M4 Pro 測得 14.9 至 17.7 token/秒,但目前僅支援 Apple Silicon,記憶體與品質數據也尚無獨立重現。
推論系統
Dynamo 現可將視覺編碼、LLM 預填充與解碼分配給獨立工作程序及不同等級 GPU,避免影像請求阻塞純文字流量。官方測試雖顯示首 token 與端到端延遲最高改善 5 倍、7 倍,但長輸出或大型稠密模型可能抵銷拆分收益。
推論系統
PELM 不只調整處理器頻率,還動態選擇推測解碼設定與驗證深度,在熱限制下共同控制硬體和模型工作量。論文報告最高 23.1% 加速及 52.4% 節能,但峰值結果不能直接外推到手機或其他模型。
生成式音訊
YuE2 把旋律與和弦的符號規劃、語意 token 和 flow-matching 音訊合成放進同一套生成流程。權重可在 24GB GPU 執行,但非商用授權及最佳八選一評測,使其與商用系統的比較仍須保守解讀。
代理工具
Φ-Bench 將評測範圍從單一 GPU kernel 擴大至跨檔案實作與端到端系統最佳化。八款前沿模型都能偶爾找到有效修改,但推理預算增加並未穩定轉化為更好的工程結果。
最新模型
SWE-2 以 2.8T 參數的 Kimi K3 為底模,利用成本懲罰、低精度 rollout 與同步更新的草稿模型改善程式代理效率。官方基準顯示它接近前沿閉源模型,但成績主要由 Cognition 自行執行,且目前沒有獨立 API 或權重。
具身 AI 與機器人
FolDeX 將衣物摺疊整理成涵蓋 20 多項任務、10 多種機器人本體的實體世界基準,專門測試異質資料能否跨任務、場景及硬體重用。團隊另提供遠端實機評估,但資料授權、完整下載方式與首批可比較基線仍待確認。
最新模型
Gander 把串流影音對話、插話控制與非同步代理執行接到同一時間軸,前端模型可在後端代理工作時繼續與使用者互動。首版公開 Apache 2.0 程式與權重,但完整資料集尚未釋出,官方部署設定也需要三張 GPU。
AI 安全
OpenShift AI 3.5 以開發者預覽方式整合 OpenShell,利用 Landlock、seccomp、網路命名空間及 L4/L7 政策限制代理存取。這讓提示注入後的檔案、系統呼叫與網路副作用不再只依賴模型防護欄,但預設相容模式與預覽狀態仍可能留下落差。
GitHub Repo
OpenBMB 發布具 13.1 萬 token 上下文與工具調用能力的 2B 稠密模型,並同步公開分階段權重、訓練資料及多種量化格式。第三方評測肯定其同級競爭力,但社群測試發現官方取樣設定可能讓 GGUF 量化版陷入重複生成。