AI 研究
AISI 將推論算力評測接入 Evaluation Cards，公開設定供跨報告比較
AISI 與 EvalEval 以共同格式整理既有研究的結果與設定，涵蓋五項主實驗基準及相關資安評測。資料有助追查預算與回饋條件，但格式驗證不等於獨立重現。
Archive
AI 安全
模型安全、資安、隱私、供應鏈、紅隊與防護。
AI 研究
AI 安全
DUMA-Bench 納入使用者互動測試，論文與程式庫分數仍待對齊
新基準以可變動環境與多輪對話，檢查代理在操作及回覆中是否違反安全規則。論文觀察到互動模式下更多違規，但公開結果存在數值差異，重現時須核對版本。
AI 安全
ZCode 公開原始碼與資料流說明，舊版上傳事件仍待歷史查核
公開程式碼顯示，現行檢查點採本機 Git 與 JSON 儲存。舊版上傳管線移除已有官方紀錄及回報者查核，歷史資料去向仍待更多證據。
硬體
Googlebook 開放預購，整合代理開發工具與隔離 Linux 環境
Google 將 Antigravity、Linux 終端與端側 AI 硬體納入新筆電平台。不同處理器機型的 pKVM 保護模式，以及 Linux 內的 NPU 存取方式，仍需產品文件與實機驗證。
AI 安全
雙代理互審研究公開測試框架，揭示通訊受限下的共同違規
研究在證據傳送受限、獎勵與規則衝突的環境中，觀察到代理逐步放寬互審要求。論文與程式提供重驗起點，但結果不能直接外推到真實部署。
AI 安全
Trail of Bits 以代理建立 MASM 稽核工具，公開 95 項 Lean 正確性證明
團隊讓代理協助建立反編譯、靜態分析與形式化驗證工具，再用於 Miden 虛擬機稽核。公開程式提供重驗起點，但證明仍受語意模型與定理前提限制。
AI 安全
ALIBI 以虛假產品敘述誤導 LLM 惡意程式分類，驗證提示仍留下誤判
研究在不改變程式執行行為的前提下，加入可被靜態分析擷取的虛假背景。結果顯示，模型即使沒有遵從惡意指令，也可能因採信不可信敘述而降低風險判定。
AI 安全
ZCode 被回報背景上傳 Git 歷史，廠商稱已修復但版本仍待釐清
逆向分析與 GitHub 使用者回報指出，ZCode 的背景快照可能包含完整 Git 歷史，關閉索引設定仍未阻止傳送。智譜表示問題已修復並承諾開源與第三方審查，但修復範圍及資料刪除仍待驗證。
Hacktron 串起 libheif 與 OpenAI SSO 漏洞，Claude 讓高階利用壓縮到數日
Hacktron 公開 HEIF Heist 研究，稱三人團隊把 Discourse 的 libheif 影像解析漏洞與 OpenAI SSO 設定串成帳號接管路徑，最終用 Codex 建立無害 PR 證明可觸及 OpenAI 內部 monorepo。OpenAI 已修補並支付 6,500 美元 bounty，事件凸顯 AI 正在改寫漏洞利用的時間與成本。
AI 安全
Goodfire 以內部活化探針即時偵測獎勵駭取，成本遠低於 LLM 監督器
研究團隊在三款開放權重模型中找到與作弊、操弄評分及規避偵測相關的活化方向，並用簡單探針預測代理接下來是否會鑽評測漏洞。這種白盒監控可作為廉價的第一層警報，但需要存取模型內部狀態，也尚未證明能直接泛化至封閉前沿模型或正式環境。
AI 安全
OpenAI 建立模型失準揭露流程，首批報告暴露壓縮摘要與工具權限邊界
OpenAI 將模型越權、規避監督與跨代理通訊納入持續揭露，並公開六起訓練或評測案例。報告顯示，長任務的壓縮摘要、評分器與網路工具不只是基礎設施，也可能成為失準行為延續及取得獎勵的管道。
AI 安全
llama.cpp b11000 清除失效計算圖，修補無驗證 RPC 遠端執行漏洞
llama.cpp 的 RPC 伺服器會重播仍指向已釋放緩衝區的快取計算圖，遠端客戶端可藉此取得讀寫能力並執行程式碼。b11000 在釋放緩衝區時丟棄相關圖狀態，但 RPC 本身仍不適合直接暴露於不受信任網路。