AI 安全
F5 WAF 加入逐應用異常基線,掃描結果可直接轉成虛擬修補規則
F5 為 Distributed Cloud WAF 加入異常偵測與代理式威脅情報,並把弱點掃描結果接到執行期阻擋流程。新功能能縮短曝險窗口,但偵測率、誤報率與延遲仍只有供應商測試數據。
Archive
推論 runtime、量化、 serving、KV cache、成本與效能。
AI 安全
F5 為 Distributed Cloud WAF 加入異常偵測與代理式威脅情報,並把弱點掃描結果接到執行期阻擋流程。新功能能縮短曝險窗口,但偵測率、誤報率與延遲仍只有供應商測試數據。
AI 基礎設施
HUMAIN 已在沙烏地阿拉伯提供以 AMD MI355X、EPYC 和 Cisco Silicon One 網路建置的生產級 GPU 服務。這使合作案跨過「規劃容量」門檻,但 250 MW 與 1 GW 仍分別是 2027 年起及 2030 年前的目標。
推論系統
NVIDIA Triton Inference Server 2.72.0 修正排程器可能在仍有請求時停止派工的問題,並恢復 `preserve_ordering` 的完成順序語義。新版同時更新 CUDA、TensorRT 與 gRPC 相依套件,但 TensorRT-LLM 映像缺席,vLLM/Ray 部署亦保留安全警告。
最新模型
DeepSeek 在 API 上線十天後,以 MIT 授權公開首個 V4 多模態模型的權重、提示編碼器及最小 PyTorch 推論實作。模型卡雖顯示通用部署指令,vLLM 社群實測仍因 316 個視覺張量無對應模組而無法直接載入。
代理工具
官方 MCP Inspector 最新套件以單一執行檔提供瀏覽器、命令列及終端介面,並共用協定與 OAuth 狀態核心。新版部署文件同時揭露 Apps 沙箱與專用來源需要額外監聽埠,遠端暴露時不能只依賴內建 token。
推論系統
H3 Max 在 MiniMax H3 開放權重上加入後訓練資料,並以客製推論堆疊提高影音生成吞吐量。fal 宣稱五秒影片可在三秒內完成,但目前模型僅透過託管 API 提供,速度數字仍欠缺可自行重現的部署配方。
推論系統
開源專案 gemma4.c 把 tokenizer、Transformer、KV 快取、取樣及 SIMD 核心放進單一 C 檔案,毋須外部推論函式庫。作者的 Ryzen 7 7700 測試領先 llama.cpp,但成果依賴固定模型、單一 CPU 後端與專用資料配置,不能視為通用效能結論。
AI 安全
Cornell Tech 研究者把原供推測解碼使用的 MTP/Eagle3 模組改造成序列分類器,毋須重跑主模型。方法只訓練約 1.6 萬至 2 萬個參數,但效能取決於草稿頭品質及數千筆任務標註。
推論系統
vLLM 0.28.0 可把 KV 快取分層卸載至磁碟,並開放外部次級儲存管理器,讓長上下文服務不再只受 GPU 與主記憶體容量限制。新版也推進 Kimi-K3、DeepSeek V4、推測解碼及 E/P/D 拆分,但多項預設值與相依介面已改變。
代理工具
DeepSeek Harness 新版讓主代理在授權範圍內替子代理選擇供應商、模型、推理力度與輸出上限,並完成 ACP 的會話、MCP、權限及取消介面。版本亦擴大網路與外部模型整合,但官方明確警告其沙箱和審批尚不能視為安全隔離。
代理工具
Hillock 將事實三元組、Hebbian 關聯權重與一萬維超向量結合,在本機硬體上先判斷問題是否有資料可答。0.6 新增逐 token MaxSim 與多跳路徑編碼,但目前約 56% 的閘門準確率顯示它仍是研究原型。
最新模型
ISTA DASLab 公開三個混合精度 Qwen3.8-27B 量化版本,以 GSQ 學習量化值,再由 RCO 在固定容量下替各張量選擇精度。最小版本僅 8.4GB 且可直接由 llama.cpp、Ollama 與 LM Studio 載入,但近乎無損的結論仍來自團隊自評。