代理工具
TRACE 從成功與失敗軌跡改寫代理 Skills，隱藏測試一致通過率升至 70%
小米團隊提出 TRACE，以成功／失敗軌跡的對比結果迭代可檢索 Skill Bank，不修改底層模型權重。它在 CAR-bench 隱藏集提高三次皆成功的比例，但平均 token、成本及延遲亦同步增加。
Archive
推論系統
推論 runtime、量化、 serving、KV cache、成本與效能。
代理工具
GitHub Repo
Headlong 以 Bash 無限迴圈實作持續代理，沒有人提問時仍會自行思考與執行
Laude Institute 與 MIT 公開不足一萬行 Bash 的 Headlong，把訊息視為持續思考軌跡中的非同步觀察，而非新工作階段。這種設計可研究長期記憶與自發行動，但也把 token 成本、權限隔離及跨使用者資料邊界變成常駐風險。
最新模型
NVIDIA 為 MiniMax H3 加入兩階段生成，單張 GB200 的 10 秒影片延遲降至 14.9 秒
H3 Super Acceleration 先以低解析度、四步去噪建立草稿，再交由 LTX 與 Sol-Attn 用三步完成高解析度細化。官方測得 768p、10 秒影片較 SGLang 基準快 27.7 倍，但加速改變了取樣路徑，並非等品質的純核心最佳化。
推論系統
Ray 2.58 完成 KV-cache／token 感知路由，但新路由器仍屬 alpha
Ray Serve LLM 現在把提示詞 token 化、快取命中估算與副本選擇集中在 ingress，並把 token 直接傳給推論引擎。設計可減少重複 prefill 與 token 化，但官方未公布新版效能數據，控制平面亦帶來額外同步成本。
推論系統
AWS 以小模型先壓縮 RAG 證據：輸入 token 減至一成，但請求延遲增加 12% 至 19%
新架構在檢索與主模型之間加入一次低成本模型呼叫，只保留與問題相關的原文片段及來源識別碼。AWS 的內部測試錄得約三成成本下降，但評分依賴單一企業語料與 LLM judge。
最新模型
ReWorld 以姿態索引地標庫固定 KV 預算，讓互動世界模型走遠後仍能返回原景
ReWorld 把短期動作控制與長期場景記憶分配給不同注意力範圍，再以固定容量的地標庫保存歷史。作者展示 704×1280 即時串流及 64 秒返回軌跡，但目前只有論文和示範頁，尚未發布權重或程式碼。
GitHub Repo
DFlash 2 讓 Qwen3.8-27B 並行起草 token，但 vLLM nightly 目前存在載入與顯存錯誤
DFlash 2 以候選路徑選擇器及動態卷積改善區塊擴散草稿，在單請求測試中讓 Qwen3.8-27B 達到自回歸解碼的 2.7 至 3.4 倍吞吐量。最新可重現問題顯示 vLLM nightly 會建立錯誤的 decoder layer，並在共用詞表權重前暫時多配置近 4.74GiB，24GB 顯示卡可能無法啟動。
硬體
MTIA 300 把 12 張 RDMA NIC 與集合通訊引擎封進晶片，避開 PCIe 與運算核心爭用
Meta 公開 MTIA 300 的系統設計，以內建 NIC chiplet、近記憶體歸約單元及編譯式 HCCL 加速推薦模型訓練。官方稱 40 顆加速器上的通訊時間較對照 GPU 叢集縮短至約四分之一，但未提供成本、功耗或通用 LLM 訓練比較。
AI 基礎設施
SageMaker HyperPod 加入受管 Ray：訓練、推論與故障恢復共用 KubeRay 介面
AWS 將 Ray 叢集建立、遠端提交、監控及工作空間連線整合進 HyperPod on EKS。介面沿用 KubeRay 與標準 Ray API，但部署仍需多個附加元件，官方亦未公布成本或效能比較。
AI 基礎設施
NVIDIA Groq 3 LPX 進入量產：以靜態排程在 100K 上下文達每秒 3,431 個輸出 token
Groq 3 LPX 將 256 顆 LP30、128GB SRAM 與編譯器預排的晶片間傳輸整合成低延遲解碼系統。第三方測試顯示長上下文速度領先現有公開端點，但成本、併發吞吐與生產服務表現仍未公開。
推論系統
AgentX 公開長上下文代理推論結果，以真實工作階段形狀取代固定長度壓測
SemiAnalysis 已公開 AgentX 即時結果與完整重播工具，用多回合程式代理軌跡比較 GPU、推論引擎與快取設計。公開語料保留請求長度、共享前綴、停頓及子代理拓撲，但以合成內容取代原始提示與程式碼。
AI 安全
Google Agent Identity 驗證管理器正式上線，代理憑證從應用程式碼移至獨立控制平面
Google Cloud 將 Agent Identity auth manager 與兩組相關 API 推至正式可用，集中處理代理呼叫外部工具所需的 OAuth 與 API key。舊 IAM Connectors API 不會進入 GA，既有預覽版整合需要遷移。