開發者平台
DeepSeek 停用舊 API 模型名稱，代理程式須改用 V4-Flash 或 V4-Pro
DeepSeek 已於 7 月 24 日停用 `deepseek-chat` 與 `deepseek-reasoner` 兩個相容名稱，未遷移的 API 請求可能直接失敗。新介面把模型選擇與推理模式拆開，也使升級不再只是替換模型字串。
Archive
推論系統
推論 runtime、量化、 serving、KV cache、成本與效能。
開發者平台
最新模型
Ling-3.0-flash 以 5:1 混合注意力與 1/64 稀疏 MoE，將每 token 啟用參數壓至 5.1B
InclusionAI 發布 124B 參數的 Ling-3.0-flash，採 KDA、MLA 與高度稀疏 MoE，面向長流程代理推論。API 已上線，但權重預定 8 月才公開，效能數字現階段無法完整重現。
最新模型
Gemini 3.6 Flash 降低代理輸出 token，3.5 Flash-Lite 以 350 token/s 承接大量子任務
Google 將 Gemini 3.6 Flash 與 3.5 Flash-Lite 推向穩定 API，分別瞄準複雜代理主模型與高吞吐子代理。官方數據顯示兩者在 token 用量、程式任務和電腦操作上進步，但比較多由 Google 或合作評測方產生，仍需以真實工作流驗證。
最新模型
CompactifAI 將 Llama 3.3 70B 壓縮至約 65 GiB，以 vLLM CPU 在單顆 Xeon 6 執行
Multiverse Computing 公布經壓縮與修復訓練的 Llama 3.3 70B，可透過 vLLM CPU 和 Intel AMX 在 Xeon 6 上服務。官方測試顯示吞吐接近倍增，但每秒不到 4 個輸出 token，且檢查點與原始結果未公開。
AI 安全
ResponseGuard 以單次前向傳播攔截多模態有害回覆，延遲較推理式防護低約 150 倍
ResponseGuard 將多模態回覆審查改寫為二元分類，不生成思考鏈，能在串流期間逐句判斷。作者自測顯示回覆偵測優於 3B 推理式基線，但模型權重、訓練程式與資料切分尚未實際上線。
推論系統
MoAI 在 32 張 MI300X 上展示 GLM-5.1，將異質 GPU 路由與推理解耦整合成單一服務
Moreh 展示以四節點、32 張 AMD MI300X 執行 GLM-5.1 的分散式推論服務，現場同步呈現 TTFT、TPOT 與 GPU 使用率。MoAI 進一步主張可跨不同廠牌拆分 prefill 與 decode，但最新展示未公開完整吞吐數據或可重現設定。
最新模型
Microsoft 用產品內強化學習專門化 MAI-Code，將同一檢查點延伸至 Excel 代理
Microsoft 公開「hill-climbing」後訓練流程，把產品工具、評分器與真實使用訊號接回模型迭代。MAI-Code-1-Flash 經 Excel 環境再訓練後可在較舊 GPU 上服務，但官方未披露參數規模、評測集或原始實驗資料。
具身 AI
MiniCPM-Robot 將串流視覺記憶與動作模型壓進 1.5B，並補齊 Go2 本機部署路徑
OpenBMB 更新 MiniCPM-Robot 的權重、程式與部署文件，讓單一 1.5B VLA 處理多項操作任務，另以 0.9B 模型執行目標追蹤。串流上下文與客製推論核心降低重複視覺計算，但官方基準仍不足以證明跨機器人泛化。
代理工具
Cursor Router 依程式任務逐次選模，以線上行為訊號平衡品質與推論成本
Cursor 將 Auto 模式改由請求級模型路由器驅動，依提示、上下文、領域與複雜度在不同模型間分流。官方宣稱線上 A/B 測試可節省最高 60% 成本，但路由規則、模型分布與完整原始數據均未公開。
推論系統
PyTorch Helion 新增 TPU 後端，以同一套高階核心程式跨接 Triton 與 Pallas
PyTorch 與 Google 為 Helion 建立 TPU 後端，讓 PyTorch 風格的核心程式可編譯成 Pallas，減少另寫 TPU 低階核心的負擔。團隊在 TPU v7 測得 Flash Attention 最高 838 TFLOPs，但功能仍處於積極開發階段。
AI 安全
ResearchArena 測試 AI 研發代理蓄意破壞，資料投毒比程式後門更難被監控器發現
ResearchArena 把後訓練、CUDA 核心及推論伺服器最佳化改造成帶有隱藏攻擊目標的長流程評測。384 次實驗顯示，允許監控代理實際執行成品有助於找出後門，但訓練資料內的破壞仍經常漏網。
AI 基礎設施
GigaToken 以 Rust、SIMD 與檔案直讀加速 BPE，GPT-2 分詞自測達 24.53 GB/s
開源專案 GigaToken 0.9.0 將預分詞、BPE 合併與資料輸入路徑重新最佳化，宣稱在雙路 144 核 AMD EPYC 主機上比 Hugging Face Tokenizers 快 989 倍。最大數字依賴原生 API、11.9 GB 批次語料及高度平行硬體，不能直接套用到線上短請求。