AI 基礎設施
AtumAI 將資料中心控制策略編譯成可搜尋規格，三類任務均勝過人工基線
AtumAI 把自然語言需求轉成含目標、硬限制、決策變數與評估方法的中介表示，再結合擴散模型、演化演算法及代理模型搜尋策略。研究在工作配置、資源伸縮與電力管理上報告改善，但結果來自模擬器，尚未證明能安全接管生產控制平面。
Archive
AI 安全
模型安全、資安、隱私、供應鏈、紅隊與防護。
AI 基礎設施
代理工具
Harness-R1 從代理失敗軌跡學習修改執行框架，Qwen3.5-9B 成功率提高 9.3 點
Harness-R1 不調整目標代理的模型權重，而是訓練另一個 9B 模型修改其上下文、工具與驗證程式。三個環境的平均成功率由 44.3% 升至 53.6%，但尚無公開程式碼可供檢查補丁安全性。
AI 安全
MAI-Cyber-1-Flash 進入預覽，以小型專用模型承接九成漏洞分析工作
Microsoft 的 MDASH 開始預覽首款自研資安模型 MAI-Cyber-1-Flash，僅把最困難的工作轉交 GPT-5.4。多模型路由降低掃描成本，但自動產生攻擊程式與修補正式環境也擴大了權限及驗證風險。
AI 安全
CAGE 為代理工具回傳加入聯合授權證明，避免欄位綁錯與數值漂移共同繞過閘門
CAGE 不只檢查代理當下看到的工具回傳，而是驗證一組可能的正確綁定結果是否全都允許同一動作。研究證明，分別檢查類別欄位與數值誤差並不能保證兩者同時變動時仍安全。
GitHub Repo
Open Secure AI Alliance 成立，NVIDIA 以 NOOA 推動代理測試、追蹤與稽核工具
NVIDIA、Linux Foundation、Hugging Face、Microsoft 等組織成立 Open Secure AI Alliance，準備以開放模型與工具處理代理及 AI 軟體漏洞。首批具體投入包括 NVIDIA 的 NOOA 框架，但聯盟尚未公布共同規格、治理流程與交付時程。
AI 安全
SafeKeep 發現工具 schema 會削弱模型拒答訊號，提示注入成功率降至 2.5%
新研究指出，代理使用的 JSON 式工具規格不只是中性介面，還可能壓低模型內部的拒答表徵。SafeKeep 在執行前另以攤平的文字規格判斷安全性，將有害要求平均拒答率由 23.8% 提高至 70.6%。
AISPA 稽核商用 AI 的隱藏系統提示，約四成產品含損害使用者利益的指令
AISPA 把系統提示拆成八項使用者保障維度，並分析 88 款商用 AI 產品中的 3,249 條指令。雖然 98.9% 的產品至少包含一項保護性規則，完整覆蓋八個面向的比例只有 24%。
AI 安全
OWASP Agentic Skills Top 10 完成 v1 公開審查，將技能供應鏈列為獨立攻擊面
OWASP 的 Agentic Skills Top 10 v1 草案結束公開審查，將惡意技能、權限過度、依賴混淆與跨平台移植風險整理成十類控制項。框架把技能視為模型與 MCP 工具之間的行為層，並提出可宣告權限、來源及完整性的通用格式。
AI 安全
Google Earth 上線影像生成一天即撤回，SynthID 未能阻止假衛星圖外流
Google 將 Nano Banana 2 接入真實地理影像後，使用者迅速生成爆炸、空襲等虛構場景截圖，公司翌日撤回功能。生成結果雖有浮水印且不會寫入共享地圖，但事件顯示來源標記無法替代輸入限制與介面隔離。
AI 安全
五款開放權重模型的自報信心近乎常數，低信心優先稽核可能等同隨機抽查
新研究以有限人工預算模擬代理群稽核，找出自報信心失真到使排序策略落後隨機抽查的臨界點。五款小中型開放權重模型在兩項測試的信心 AUROC 僅約 0.5，但結論來自單一提示與直接作答設定。
AI 安全
DFOT 量化 LLM 對衍生感測值的過度信任，跨模態蒸餾讓修正率提高最多 6.69 點
新框架把「模型誤信衍生數值」拆成衝突接受、情境誤導、錯誤修復與效用損害等指標。以 PPG 心律判讀為案例，訓練時借用 ECG、部署時只需 PPG 的可靠度模型改善四項端點，但資料與權重未隨程式碼公開。
AI 安全
Microsoft 以 5B 啟用參數資安模型分流漏洞分析，MDASH 在 CyberGym 得分 95.95%
MAI-Cyber-1-Flash 是 137B 參數的稀疏 MoE，但每個 token 只啟用約 5B，負責 MDASH 約九成工作，再把困難案例交給 GPT-5.4。官方宣稱新配置成本降低近半，但模型目前僅在 Azure AI Foundry 私人預覽提供，基準也尚未經外部重現。