推論系統
Jev 捨棄文字生成，以平行取樣輸出型別化機率決策
TypeSafe AI 的 Jev 只產生預先定義的布林、選項與分數，試圖把模型推論變成可直接嵌入程式的低延遲分支。型別正確不代表判斷正確，官方速度與成本優勢也仍建立在自製工作流及未公開模型上。
Archive
推論系統
推論 runtime、量化、 serving、KV cache、成本與效能。
推論系統
AI 安全
「計畫注入」讓模型把外來錯誤推理改寫成自己的，並避開思維鏈監控
新研究發現，放入上下文的良性措辭錯誤計畫可被模型吸收、改寫並付諸行動，最強監控器仍漏掉至少四分之一攻擊。讓監控器看到原始注入內容或增加推理預算也不保證改善偵測，顯示代理不能只靠輸出思維鏈自證安全。
代理工具
Reef 把線上推論、回饋訓練與代理版本發布接成持續學習迴圈
新開源 Reef 以相容 OpenAI、Anthropic 的推論端點收集可追溯互動，再非同步更新模型權重或代理 harness。它補上熱更新與版本回滾所需的控制面，但學習資料污染、評估器偏差及生產穩定性仍待驗證。
最新模型
Gemini 3.8 Live 將推理移到語音背景執行，客戶端不能再以 turnComplete 判定閒置
Google 推出兩款原生語音模型，Extended Thinking 可在持續輸出音訊時進行背景推理與非同步工具呼叫。新協定提升長流程語音代理的並行能力，卻也要求開發者重寫工作階段狀態機與中斷處理。
最新模型
ShadowPEFT 進入 Hugging Face PEFT 主線，以跨層狀態取代分散式 LoRA 權重增量
ShadowPEFT 把任務調適建模為與凍結骨幹並行的可訓練小模型，並已接入 PEFT 的標準設定、儲存與載入介面。初步實驗優於相近參數量的 LoRA 與 DoRA，但額外記憶體、雙重 KV cache 及尚未進入穩定版都是部署代價。
代理工具
Cline Desktop 將 coding agent 移出 IDE，以共用 runtime 串接平行工作、排程與跨代理匯入
Cline 推出開源桌面 beta，讓多個代理在獨立工作階段並行，並可用 cron 排程無人值守任務。官方展示的模型成績其實來自既有 CLI harness，而非桌面版的獨立評測。
推論系統
Perplexity 將本機代理帶到 Windows RTX，但「資料留在裝置」仍有雲端例外
Portable Computer 現可在具備至少 24GB VRAM 的 Windows RTX 電腦執行模型、工具與沙箱，多數本機工作不計入雲端額度。系統仍能經使用者授權升級至雲端模型，連接器與外部操作也使其不能等同完全離線環境。
最新模型
T‑LoopFormer 讓每個 token 自選遞迴深度，並按迴圈拆分 KV cache
新架構以三層共享區塊反覆運算，讓路由器按 token 決定提早退出或繼續進行潛在推理。論文在約 10 億參數實驗中報告優於固定深度 looped Transformer 的延遲與準確率，但尚未驗證到前沿模型或主流推論引擎。
代理工具
Stellar Colosseum 將長篇證明拆成代理競賽，跨模型選擇在 TCS‑Bench 達 71%
Google Research 公開 Stellar Colosseum，以策略探索、反例攻擊、依賴圖與分層彙整管理長程數學研究。系統在 300 題 TCS‑Bench 達 71%，但成績依賴大量推論與自動評分，不能直接視為模型獨立證明能力。
AI infrastructure
Rubin NVL72 首輪 AgentX 實測公開，最高每瓦 token 增益仍取決於比較基線
SemiAnalysis 在預發布軟體上測試 Vera Rubin NVL72，報告相較 Blackwell 最高約七倍的每兆瓦 token 吞吐量。結果凸顯 HBM4 與 NVLink 6 對長上下文、MoE 推論的作用，但 67 倍性價比標題包含租賃價格及特定操作點假設。
代理工具
GitHub Copilot Auto 新增三段路由偏好，成本模式仍可能為複雜提示選用大型模型
Copilot Auto 現可在效率、平衡與智慧三個層級間調整成本、品質及延遲的權重，但三者共用同一模型池。實際費用仍由路由器選中的模型與 token 數決定，層級名稱不是價格上限或固定模型承諾。
最新模型
Atria Dawn Preview 釋出 744B MoE 權重，以可驗證環境訓練長程研究代理
上海人工智慧實驗室公開 Atria Dawn Preview、FP8 權重與推論配方，主打從搜尋、寫程式到執行實驗的完整代理迴圈。官方在 16 項基準中宣稱五項最佳，但模型規模、測試時計算與自家評測設定仍限制了可比性。