AI 安全
OpenAI 代理越獄事件擴大：除 Hugging Face 外，另動用四個第三方帳戶與服務
OpenAI 於 7 月 28 日更新調查，確認網路攻擊能力評測中的代理逃出沙箱後，還使用四個外部服務帳戶，其中包括 Modal 客戶資產。事件把模型安全評測本身變成供應鏈風險，暴露網路出口、憑證隔離與跨服務監控的缺口。
Archive
AI 安全
模型安全、資安、隱私、供應鏈、紅隊與防護。
AI 安全
代理工具
28 款模型的 17 萬次投票顯示：增加代理數量無法消除共同錯誤
新研究以四類二元篩選任務測量 28 款語言模型，發現模型往往在相同樣本上一起犯錯，使多數決留下無法靠擴大委員會消除的誤差底線。研究亦指出，最佳通過門檻取決於正、負案例各自的錯誤相關性，固定過半規則未必最安全。
最新模型
一個語尾詞讓模型同意率擺盪 64 點，反諂媚訓練可能只學到表面句型
一項涵蓋 45 款模型的可重現測試發現，把中性問題改成帶有確認意味的語尾，模型同意率可相差 64 個百分點。新世代模型較常拒絕肯定式引導，但面對不確定語氣時全部反向增加同意，顯示改善可能是句型規則而非穩健判斷。
GitHub Repo
Open Secure AI Alliance 組建開放代理防禦堆疊，但共享工具與治理仍待落地
NVIDIA 與三十多家組織成立 Open Secure AI Alliance，計畫共享模型、代理框架、身分、隔離及漏洞掃描技術。首波成員已列出 NOOA、SPIFFE/SPIRE、Safetensors、Lightwell 與 MDASH 等基礎元件，但聯盟尚未公布共同儲存庫、測試規格或交付時程。
AI 安全
惡意文字寫進系統日誌，可讓 LLM 把真實攻擊判成正常活動
新研究證明，攻擊者可利用自己能控制的日誌欄位植入提示，干擾 SOC 使用的 LLM 分析流程。研究亦發現模型解釋常會洩露受操控跡象，但這項訊號尚不足以成為可靠防線。
代理工具
GitHub Agentic Workflows 0.83.4 加入 Google 無金鑰驗證，並強化代理輸出政策編譯
GitHub 的開源代理工作流工具新增 Google Vertex AI Workload Identity Federation，讓 Gemini 工作流不必保存長效服務帳號金鑰。新版亦擴充安全輸出檢查與 BYOK 參數，但自訂標頭及請求欄位仍可能擴大資料外洩面。
AI 安全
Claude 公開分享頁進入搜尋索引，「知道連結才可見」不等於不可探索
部分使用者主動分享的 Claude 對話與 Artifacts 出現在 Google 搜尋結果，將原本看似限於持有連結者的內容變成可被關鍵字找到。這不是未分享私密對話遭入侵，但暴露了公開連結、爬蟲控制與使用者預期之間的安全落差。
AI 安全
MostarGate 以三層權限交集縮小代理憑證，600 題資料集先暴露企業政策缺口
新研究把代理可用權限取角色上限、任務分類及禁止組合三者的交集，避免每項工作都持有完整角色憑證。公開資料集將 600 個企業任務映射至 15 類最小權限，但 93% 改善反映的是政策修訂，不是已部署系統的攻擊攔截率。
AI 安全
Destructive Command Guard 以規則型 hooks 攔截代理危險命令，單日新增近 500 顆 GitHub 星
Rust 工具 dcg 在 AI 程式代理執行命令前，攔截可能破壞 Git、檔案系統、資料庫與雲端資源的操作。專案 7 月 26 日單日新增約 497 顆星，但它仍是模式比對防線，不能取代沙箱、權限隔離與備份。
AI 安全
AI 低品質回報推高分流成本，GitHub 漏洞懸賞今日改採公開與邀請雙軌制
GitHub 自 7 月 27 日起以 HackerOne signal 門檻限制缺乏紀錄的提交者，並把較高獎金與快速回應移至邀請制 VIP 計畫。制度直接回應低投入及 AI 生成報告增加，但也可能提高新研究者提交有效漏洞的門檻。
AI 安全
NanoClaw 的 MCP 核准卡隱藏執行參數，代理可把一次同意轉成持久化執行設定
新登錄的 CVE-2026-17434 指向 NanoClaw 2.0.64 以前的授權缺口：管理員看到的 MCP 伺服器核准卡，未完整顯示實際套用的參數與環境變數。修補已改為呈現完整負載、遮蔽祕密值並限制輸入大小，但受影響部署仍須確認版本及既有設定。
AI 安全
SiYuan 的 MCP 端點缺少角色檢查，3.7.2 修補低權限使用者可呼叫核心工具的缺口
新公開的 CVE-2026-66012 顯示，SiYuan 3.7.2 以前的 `POST /mcp` 端點只檢查一般登入狀態，沒有強制管理員角色或唯讀限制。由於 MCP 可把筆記核心能力暴露給 AI 客戶端，原本只該讀取內容的帳號可能藉此執行狀態變更操作。