最新模型
LLaDA-Image 以單一 6B 擴散模型統一生圖與編輯，Turbo 壓至 4 步取樣
螞蟻集團 inclusionAI 公開 LLaDA-Image 權重與 Diffusers 推論程式，單一模型同時處理文字生圖、參考圖編輯及中英文字渲染。蒸餾版以 Twin-DMD 將建議取樣步數由 50 降至 4，但訓練程式與獨立效能驗證仍未到位。
Archive
推論系統
推論 runtime、量化、 serving、KV cache、成本與效能。
最新模型
推論系統
Magnitude 依記憶體頻寬與容量挑選本機模型，為程式代理自動配置量化與推測解碼
新開源推論伺服器 Magnitude 會實測硬體，再推薦模型、量化、上下文長度與預估速度的完整組合。它把本機代理最容易配錯的記憶體與併發參數自動化，但效能與模型品質目前仍主要依賴專案方的目錄及測試。
AI 平台與基礎設施
NVIDIA 以 129.3 億美元收購 Hugging Face，承諾維持多雲與多加速器支援
NVIDIA 已同意收購 Hugging Face，取得模型、資料集、應用程式與推論服務的重要分發樞紐。公司承諾平台不會綁定 NVIDIA 硬體，但交易後的實際治理、排序與跨硬體最佳化仍須持續檢驗。
最新模型
NeoMME 以單一雙向 Transformer 編碼圖文，將視覺文件索引壓縮至每頁 6 kB
Hcompany 開源 2.6 億與 8 億參數的 NeoMME，讓文字 token 和原始影像 patch 共用同一個編碼器，不再附掛視覺塔或因果解碼器。其檢索版本同時輸出 dense 與 late-interaction 表徵，但效率與準確率數字目前主要來自作者評測。
推論系統
NVIDIA PAIR 以相容代理路由閒置電腦，將本機多代理推論分散至不同節點
PAIR 在 Ollama、LM Studio 與代理程式之間加入相容代理層，依模型位置及 GPU 負載把獨立請求派往區域網路內的電腦。它增加的是工作負載並行度，不會合併顯示記憶體，也不能把單次推論拆到多張 GPU。
推論系統
HeadWiseKV 按注意力頭配置長上下文快取，將 Qwen3.6-27B 可用長度推至 161K
HeadWiseKV 不再讓所有注意力頭保存相同歷史，而是離線校準每個 head 的多級視窗並真正縮減實體 KV residency。論文在固定模型測試中把最大成功上下文由 114K 延至 161K，但公開程式庫的更高數字來自特定量化與單張 4090D。
硬體
mzCache 以 CPU／GPU 並行還原手機 LLM 記憶體，首 token 延遲縮短 2.1 至 5.5 倍
MobiCom 2026 研究把模型權重與 KV cache 切成共享緩衝區，讓 GPU 在 CPU 還原被逐出的資料時先開始 prefill。成果針對手機多工後的恢復延遲，而非提升模型本身的生成速度。
推論系統
Hugging Face 開源 207 個 WebGPU 核心，將瀏覽器 AI 算子改造成可版本化套件
`@huggingface/kernels` 可從 Hub 動態載入附帶介面、測試與 WGSL 實作的 GPU 算子。官方在 Apple M4 的算子級測試中報告幾何平均快 2.57 倍，但結果不包含模型載入、編譯與資料傳輸成本。
最新模型
TranslatePsy 開放非洲語言翻譯模型，0.8B 至 4B 版本可量化後離線執行
Tether AI Research 釋出以 Qwen3.5 微調的 AfriSLM，以及面向瀏覽器與手機的 17M 至 43M 參數 AfriNano。模型涵蓋最多 19 種撒哈拉以南非洲語言，但領先大型基線的結論主要來自自動指標，尚缺母語專家評測。
推論系統
Unsloth 0.1.806 預設啟用 MTP 推測解碼，Qwen3.8 與 GLM-5.3 本機推論最高快兩倍
Unsloth 為 Qwen3.8-Flash-Next、GLM-5.3-Flash 預設開啟多 token 預測，並改善 MLX、多 GPU 與 ROCm 路徑。官方最高兩倍的說法未附完整測試矩陣，Qwen 技術文件所列低併發增益則為 1.3 至 1.7 倍。
代理工具
Android Studio Quail 4 穩定版內建 23 項代理技能，Gemma 4 可離線執行跨檔案重構
Google 將 Android 專用技能的自動選取與 Gemma 4 本機推論帶入 Android Studio 穩定通道。程式碼可留在開發機，但本機執行不等於代理已具備完善的權限隔離或可驗證品質。
代理工具
Coder Agent Relay 拆分雲端推理與自架執行，Cursor 工具操作可落在企業工作區
Coder 讓 Cursor 雲端代理保留外部控制迴圈，卻把命令、檔案與工具操作移入企業自管工作區。這種分層可套用既有 RBAC、防火牆與稽核，但推理和模型流量仍經供應商，不能等同完整私有部署。