最新模型
Solar Open 2 以混合線性注意力支撐百萬 token，250B MoE 每次僅啟用 15B 參數
韓國 Upstage 發布面向長流程代理的 Solar Open 2，將 2500 億參數 MoE、混合注意力與百萬 token 上下文整合於同一模型。官方表示量化後可用兩張 NVIDIA H200 部署，但效能與長上下文穩定性目前主要依賴團隊自測。
Archive
推論系統
推論 runtime、量化、 serving、KV cache、成本與效能。
最新模型
推論系統
BaseRT 以 Metal 4 直接驅動 M5 神經加速器，提示處理最快勝 llama.cpp 6.4 倍
BaseRT 新增手寫的稠密、MoE GEMM 與 FlashAttention 核心，將提示階段的矩陣運算交給 M5 GPU 內的神經加速器。團隊在 M5 Pro 報告顯著領先 llama.cpp 與 MLX，但數據目前仍來自開發者自己的單機測試。
推論系統
SWE-Pruner Pro 直接讀取程式模型隱藏狀態，最多削減 39% 代理 token
SWE-Pruner Pro 不再呼叫獨立分類器，而以輕量預測頭從程式代理的內部表徵判斷每行工具輸出是否保留。研究在兩款開放 MoE 模型與四項多輪基準上取得 token 節省，但需要修改推論伺服器，且部分品質增益尚待重現。
Thinking Machines 釋出 Inkling：975B MoE 開放權重模型支援百萬 token 與原生多模態
Inkling 以 9750 億總參數、410 億啟用參數的 MoE 架構進入開放權重市場。模型同時提供可調推理強度、百萬 token 上下文，以及在 Tinker 上微調的路徑。
OpenAI 將 GPT-5.6 分成 Sol、Terra、Luna，統一百萬 token 上下文與代理工具介面
GPT-5.6 家族進入一般供應，以 Sol、Terra、Luna 分別覆蓋最高能力、均衡成本與大量低價工作負載。三款模型共享長上下文與工具介面，但推理成本、安全行為及實際品質仍需分別評估。
最新模型
Meta Muse Spark 1.1 開放 Model API，主打百萬 token、平行工具呼叫與多模態代理
Muse Spark 1.1 首次透過 Meta Model API 公開預覽，並提供 OpenAI 相容介面。模型把百萬 token 上下文、搜尋引用、結構化輸出與平行工具呼叫整合成代理基座。
推論系統
Nunchaku Lite 原生進入 Diffusers，以 W4A4 量化降低擴散 Transformer 顯存與延遲
Diffusers 現可直接載入 Nunchaku Lite 的 INT4 與 NVFP4 檢查點，不必另裝模型專用推論引擎。SVDQuant 同時量化權重與啟用值，目標是在節省顯存之外真正縮短去噪時間。
應用研究
ByteDance UniVR 讓模型在視覺空間中推理、模擬動態並規劃長期行動
UniVR 嘗試只從視覺示範共同學習複雜推理、物理動態與長期規劃。ByteDance 同步公開 34B Planning 檢查點，為不依賴文字思考鏈的視覺代理研究提供可測試基線。
推論系統
NVIDIA 發布 Nemotron 3 Embed，並提供 1B 模型的 NVFP4 檢查點
Nemotron 3 Embed 提供 8B、1B BF16 與 1B NVFP4 等文字嵌入模型。低精度版本把檢索模型的記憶體與吞吐效率納入第一級設計目標，但品質仍需在目標語料上驗證。
GitHub Repo
Gemma 4 12B 以單一 Transformer 直接處理影像與音訊，降低多模態部署複雜度
Google 發布 Gemma 4 12B 開放權重模型，以線性投影取代獨立視覺與音訊編碼器。新架構簡化微調與本機推論，但官方效能數據仍須由獨立測試驗證。
Azure 將導入 AMD Helios，新增面向大型推論、資料管線與晶片設計的運算執行個體
Microsoft 計畫在 Azure 規模化部署 AMD Helios，並推出搭載第六代 EPYC 的 HDv2、HXv2 與 MI455X 推論執行個體。這是 GPU、CPU、DPU、網路與軟體共同設計的基礎設施更新，實際性價比仍待公開測試。
LiteRT.js 把 LiteRT 原生推論堆疊帶進瀏覽器，串接 WebGPU、Wasm 與實驗性 WebNN
Google 發布 LiteRT.js，讓網頁應用直接執行 `.tflite` 模型，並依裝置使用 CPU、GPU 或 NPU。它把瀏覽器端 AI 從 JavaScript 核心推向跨平台原生執行堆疊，但效能與相容性仍高度依賴瀏覽器及硬體。