最新模型
VLM Run Gateway 統一 OCR、影片與視覺模型 API，但模型名稱仍不足以保證推論等價
VLM Run 開放一套相容 OpenAI Chat Completions 的視覺模型閘道，讓 OCR、圖像描述、影片理解與專用 ViT 共用端點及 MCP 介面。它試圖揭露量化與服務設定差異，但效能、視覺準確率及供應商支援比例目前主要來自發布者自己的測試。
Archive
推論系統
推論 runtime、量化、 serving、KV cache、成本與效能。
最新模型
最新模型
騰訊 EVIE 以可截斷多向量與 token 聚類，壓低視覺文件檢索索引成本
騰訊發布 EVIE-8B 與 EVIE-4.5B，直接以頁面影像建立逐 token 表徵，避免先做 OCR 再檢索。4.5B 版可在執行期調整向量維度並將每頁壓至 32 個向量，但領先成績目前仍主要來自團隊自己的評測。
GitHub Repo
InvokeAI 6.14.1 修補外部圖片下載信任邊界，並校正 VAE 與 FP8 記憶體預留
InvokeAI 的修補版收緊 Alibaba Cloud 圖片下載與注入工作階段的信任檢查，同時修正 FP8、FLUX.2 和 VAE 的記憶體估算。新版亦支援帶 DoRA magnitude 的 Krea-2 LoRA，但官方沒有提供漏洞編號或可量化的顯存比較。
AI 基礎設施
LiteLLM 1.100.0 將共享預算、MCP 權杖驗證與 Vertex Interactions 納入同一閘道
新版把模型存取群組的共用預算改為可按週期持久計算，並為 MCP 工作階段加入 RS256 簽章與 RFC 7662 introspection。它也擴充 Vertex AI、Bing grounding 與語音模型路由，但刪除既有 token 計算函式，升級前必須檢查直接匯入與資料庫遷移。
AI 研究
RISE 從 RLVR 更新方向合成逐 token 教師，免用外部大模型蒸餾
Salesforce AI Research 團隊把目前模型與落後錨點之間的更新位移向前外推，合成會隨訓練更新的「未來策略」教師。方法在數學與代理基準勝過純 GRPO，但增加 1.3 至 1.6 倍牆鐘時間，且依賴訓練軌跡局部近似線性的假設。
最新模型
22 款前沿模型的分子基準稽核：高推理強度反而更容易取回已發表數值
研究者發現，部分模型在分子性質回歸測試中可能不是預測，而是逐位重現訓練資料裡的答案。提高推理強度後，檢索跡象增加 89%，顯示推理設定本身也會改變基準污染程度。
推論系統
Speculative Macro Commit 預先執行代理工具鏈，AppWorld 牆鐘時間縮短 44.9%
新研究讓小型草稿模型在隔離環境快照中預跑多步工具操作，再由大型權威模型確認第一步後一次提交整段結果。方法在兩項代理基準降低延遲，但需要三張 GPU，且 AppWorld 的任務完成率由 41.67%降至 40.48%。
硬體
Extropic Z1T 為機率晶片重寫 Transformer，但百倍節能仍是排除關鍵成本的估算
Z1T 以固定四路稀疏投影、動態 tanh 與卷積式注意力，把部分解碼運算映射至 Extropic 的 Z1 機率位元晶片。程式與一組權重已公開，但節能和吞吐數字主要來自硬體模型，尚非完整端到端實測。
推論系統
SGLang 0.5.19 加入 Beam Search，並重整跨 NVIDIA、AMD 的推論路徑
SGLang 新版可在同一服務中以 `beam_width` 回傳多條候選序列，並將統一 radix tree 設為所有模型的預設快取。更新同時擴充 MoE、長上下文及 ROCm 核心，但包含依賴與設定行為變更，升級前須重新驗證。
最新模型
輔助視角實驗：同一知識改寫成教材、問答與文章，比重複原文更利於模型吸收
賓州大學研究者在固定知識 token 預算下，以多種概念表述取代部分原文重複，改善事實回憶與推理。效果主要出現在 7B 以上模型，但實驗仍是短程持續預訓練，不能直接外推至前沿模型的完整預訓練。
推論系統
Ollama 0.34 RC 將本機模型接入 ChatGPT Desktop，並補齊工具搜尋與回應壓縮相容性
Ollama 的 macOS 應用程式現在可把本機開放模型直接接入新版 ChatGPT Desktop。這仍是候選版本，且社群已回報切回雲端模型的介面問題，不宜直接大規模部署。
最新模型
Artificial Analysis Index 4.2 將私有測試權重倍增至 40%，並撤下已飽和的 GPQA Diamond
新版指數加入代理知識工作與長篇 PDF 推理測試，把不公開題目的權重由 20%提高至 40%。這能降低針對公開題庫最佳化的空間，卻也使外部研究者更難完整重現排名。