最新模型
ReflectRL 把專家錯誤軌跡變成訓練訊號,GRPO 跨域評測平均提高 19.1 點
ReflectRL 不再丟棄強模型答錯的推理軌跡,而是要求學生模型找出局部錯誤,再逐步撤除這項提示。研究在九項基準上報告穩定提升,但成果主要來自數學推理設定,專案所列 GitHub 連結目前亦無法存取。
Archive
推論 runtime、量化、 serving、KV cache、成本與效能。
最新模型
ReflectRL 不再丟棄強模型答錯的推理軌跡,而是要求學生模型找出局部錯誤,再逐步撤除這項提示。研究在九項基準上報告穩定提升,但成果主要來自數學推理設定,專案所列 GitHub 連結目前亦無法存取。
代理工具
GitHub 已停止 Spark 接受新使用者與建立新應用,既有使用者只能在 8 月 31 日前匯出程式碼。已部署的網站可繼續運作,但依賴 GitHub Models 的 llm() 呼叫已失效,開發者必須接入外部模型並接手金鑰與帳務管理。
AI 安全
新研究發現,模型會以猜公式、枚舉或先猜答案再驗證等捷徑,取得正確結果卻未完成題目要求的推導。研究團隊認為,只比對最終答案可能高估前沿模型的科學推理能力,但自動稽核器本身仍有分類誤差。
最新模型
Faster-WAM 把單層動作頭接到 30 層影片 Transformer,透過跨層 KV 融合取得世界模型表徵,不再讓動作分支複製完整骨幹深度。研究報告相對 Fast-WAM 加速 3.2 倍,但尚未公開新架構的程式碼與權重,結果也主要來自模擬基準。
代理工具
Harness-R1 不調整目標代理的模型權重,而是訓練另一個 9B 模型修改其上下文、工具與驗證程式。三個環境的平均成功率由 44.3% 升至 53.6%,但尚無公開程式碼可供檢查補丁安全性。
最新模型
CMuon 發現,Muon 對融合後的 QKV、AdaLN 與 FFN 權重整體正交化,會讓功能不同的子空間互相干擾。研究以分塊動量正交化改善後期收斂,但兩倍加速目前只在單一 675M DiT 設定中得到驗證。
推論系統
xPress 在區塊擴散草稿與目標 LLM 之間加入一次並行因果修整,減少「單字合理、整段不合理」造成的提前拒絕。研究報告草稿接受長度平均增加約 30%,但目前尚無公開實作可供獨立重現。
代理工具
新研究不再讓第二個 LLM 逐步審查代理,而是從工具動作、延遲、輸出與 token 機率等遙測偵測軌跡偏移。系統成本約每步 200 微秒,但每個部署仍須以自身的正常軌跡重新校準。
代理工具
GitHub 允許開發者在啟動 Copilot cloud agent 任務時,同時指定模型與推理強度。較高強度可能改善跨檔除錯與架構分析,但會增加 token 與 AI Credits 消耗,團隊需重新建立成本及品質基準。
推論系統
Cloudflare 以 FP8 KV cache 擴充 Kimi K2.6 的並行容量,並在 GLM 5.2 解碼端改用 INT4 權重。系統同時為共享 KV cache 加入頁面世代標記,防止多租戶請求讀到錯誤快取。
最新模型
MiniMax 將 H3 影片模型權重公開,讓開發者可在本地執行含同步聲音的影像轉影片流程。ComfyUI 已加入官方工作流,但消費級 GPU 的實測多仰賴剪枝與 INT8 衍生檔,不能視為原始權重的完整品質重現。
推論系統
VIDRAFT 公開 Fast Gemma Challenge 的最高已驗證配置,讓 Gemma 4 E4B 在單張 NVIDIA A10G 達到 510.58 tokens/s,同時把 perplexity 維持在 2.3930。成果來自多項推論最佳化疊加,但測試是單串流、固定硬體與私有提示集,不能直接等同生產吞吐量。