Archive

硬體

AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。

Liquid AI 釋出視覺模型 DSpark，M5 Max 解碼速度最高達基準 3.13 倍

約 2.8 億參數的草稿模型替 LFM2.5-VL-3B 加入推測解碼，已提供公開權重與框架整合。官方測試限特定硬體與設定，視覺編碼、預填充及併發負載仍會限制整體收益。

Sarvam Vision 2.1 加入表單結構化抽取與印度語言手寫辨識

新版結合版面解析與視覺語言模型，支援跨頁表格及表單欄位抽取。官方評測更換了部分測試範圍，API 模型版本對應也須在部署前核對。

Ultralytics 8.4.162 加入影像批次預取，讓載入與 CUDA 推論重疊

新版以背景執行緒預先載入下一批圖片，減少 GPU 等待資料的時間。公開測速涵蓋特定 YOLO26n 配置，發布摘要與合併歷程的適用範圍仍有落差。

Inferact 開源 TPU 推論巨核心，Kimi K3 低併發解碼逾每秒 700 token

實作以單次 Pallas 呼叫串起 92 層，透過跨層預取權重提高記憶體頻寬利用率。官方比較限於特定拓撲與小批次，推測解碼成績也取決於草稿接受率。

OpenHands 1.23.0 改用通用 macOS 安裝包，修正 Intel 執行環境不相容

新版同時封裝 Intel 與 Apple Silicon 所需的 Node.js、uv，啟動時依架構選取。桌面版仍屬早期預覽，完整代理流程與後端設定須在實際環境驗證。

AI 基礎設施

NVIDIA 公布 MoE 訓練測試，八張 B200 最佳配置達基準 2.21 倍

BioNeMo 結合分組專家運算、專家平行與 MXFP8，提高特定訓練負載的吞吐量。最快配置同時改變精度與平行策略，收益仍須連同收斂品質評估。

高通公開 ANF SDK，將 AI 超解析度與補幀接入 Vulkan

套件提供手機遊戲的超解析度與畫格生成介面，並公開原生整合文件。初版補幀會增加一個實際畫格時間的輸入延遲，效益須連同功耗與畫質評估。

NVIDIA 公布 B200 機密推論測試，特定負載保留逾 96% 吞吐量

八張 B200 執行 DeepSeek-R1 的測試顯示，機密運算下平均每 token 延遲增幅低於 5%。結果依賴記憶體搬移、核心計時與多卡通訊調整，仍須按實際服務負載重驗。

AMD 公開 Kimi-K3 三引擎測試，重現須核對負載與映像版本

新文章整理八張 MI350X 上的推論測試流程，數據採集於七月。指定提交的 README 與文章負載不同，各引擎設定差異也限制效能比較。

vLLM 公布硬體無關層進展，保留跨加速器編譯路徑

新路徑將可攜模型層與硬體專用最佳化隔離，首批元件已接入 Transformers 後端。H100 初測顯示吞吐量接近原有路徑，但層覆蓋與跨平台效能仍須核對。

微軟工具鏈加入機器人推論卸載，網路條件仍左右操作成功率

Physical AI Toolchain 新增遠端 GPU 推論部署，提供兩種機械臂範例。既有研究顯示，額外延遲與影像頻寬可能抵銷運算收益，部署須評估完整控制流程。

SWE-Serve 加入實際服務測試，揭示程式代理修補的驗證落差

新基準以 53 項 SGLang 任務評測程式代理，發現部分通過其他檢查的修補仍無法正常提供模型服務。結果限於特定測試環境，通過基準也不代表程式已可上線。