Archive

硬體

AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。

FLUX 3 Action 開放權重，將影片與動作納入共同去噪

模型提供 DROID 與 SO-101 權重及微調流程，RoboLab 公開榜單列出約 42.9% 成功率。控制迴圈仍須由應用程式處理，規劃涵蓋時間不能當成推論延遲。

NVIDIA 公布八人語者分離模型，最低建議緩衝延遲為 320 毫秒

Nemotron 3 Diarization 以一億參數處理串流與錄音，沿用說話者快取維持跨片段標籤。延遲數字僅計音訊緩衝，實際部署仍須量測辨識、傳輸與後處理成本。

Npunlock 驗證 Intel NPU 自訂 C 核心，同圖執行獨立混合精度分支

專案沿用 Intel 驅動編譯計算圖，再替換 SHAVE 核心，讓自訂 C 程式接入 NPU。新測試涵蓋兩種精度的獨立分支，尚未支援任意混合精度管線。

PyTorch 2.14 被回報原地轉置數值錯誤，涉及 CUDA 編譯融合

一份 RTX 4070 重現案例顯示，部分張量尺寸經 torch.compile 後會產生錯誤結果。回報指向迴圈重排與讀寫相依性，修補及跨環境影響仍待確認。

遞迴模型延長推論至 512 步，數獨累積解題率測得提高

研究以相同權重延長運算，觀察到部分原先失敗的題目後續完成。結果提供停止條件的研究線索，但尚未證明真實服務的成本效益。

GPU 拓撲研究調整記憶體配置，H200 解碼吞吐量測得提升 14.3%

研究將運算單元位置與記憶體分區納入推論配置，在特定 Qwen3-8B 負載下改善解碼吞吐量。原型需要修改驅動，結果仍待程式公開與跨環境重現。

Langflow 1.12.3 修補知識庫跨使用者隔離，舊資料遷移需人工核對

新版讓 OpenSearch 與 Chroma Cloud 知識庫依擁有者區分儲存空間，避免同名資源混用。無法確認歸屬的舊資料會保留，但知識庫可能改接空白儲存區。

vLLM 0.30.0 納入常駐 GPU 權重快取，支援引擎重啟後重用

Fast Start 透過 CUDA IPC 重用已處理的權重，減少引擎重啟時的磁碟載入。零拷貝模式與 sleep mode 不相容，部署者也須驗證平行配置及快取回退行為。

Claude Opus 5.5 調降 token 單價，代理 API 加入多項不相容變更

新版降低輸入、輸出與快取讀取價格，並固定啟用自適應思考。強制工具呼叫、歷史訊息修改與串流進度顯示均須重新驗證。

vLLM 公開 Qwen3.8-2.4T 分離式推論測試，每 GPU 總吞吐量約五千 token／秒

團隊以 GB300 NVL72 測量預填充與解碼分離配置，並提供版本資訊及配置庫。最高吞吐量與每人每秒約 180 個生成 token 來自不同配置，仍須依實際負載驗證。

共享推論成本研究公開 H100 測試，計量方式改變租戶分攤比例

unalloc 整合叢集與模型帳單，研究測得不同計量方式讓同一租戶的費用占比相差約 12–14 個百分點。硬體驗證每個負載僅執行一次短測，結果不能視為正確分攤比例的定論。

Hermes 修補 Claude CLI 外掛，空參數工具不再觸發備援供應商切換

Nous Research 更新 DirectSDK 外掛固定提交，修正空參數工具、思考設定與介面相容性問題。版本號仍維持 0.3.0，部署者須核對提交值及實際工具執行流程。