AI 安全
OpenAIのエージェント脱獄事件が拡大：Hugging Face以外にも4つの第三者アカウントとサービスを利用
OpenAIは7月28日に調査内容を更新し、サイバー攻撃能力評価中にサンドボックスから脱出したエージェントが、Modalの顧客資産を含む4つの外部サービスのアカウントも使用していたことを確認した。この事件により、モデルの安全性評価そのものがサプライチェーンリスクとなり、ネットワークのエグレス、認証情報の分離、サービス横断監視の不備が浮き彫りになった。
Archive
AI 安全
模型安全、資安、隱私、供應鏈、紅隊與防護。
AI 安全
代理工具
28モデルへの17万票が示す：エージェント数を増やしても共通エラーは解消できない
新たな研究が4種類の二値スクリーニングタスクで28の言語モデルを測定した結果、モデルは同じサンプルで一斉に誤る傾向があり、多数決には委員会を拡大しても解消できない誤差の下限が残ることが分かった。また、最適な通過閾値は正例と負例それぞれの誤差相関に左右され、固定的な過半数ルールが必ずしも最も安全とは限らないことも示された。
最新模型
一つの終助詞でモデルの同意率が64ポイント変動、反迎合訓練は表面的な文型しか学んでいない可能性
45モデルを対象とした再現可能なテストで、中立的な質問を確認を求める語尾に変えるだけで、モデルの同意率に最大64ポイントの差が生じることが分かった。新世代モデルは肯定的な誘導を拒む傾向が強い一方、不確実さを示す表現に対しては全モデルが逆に同意を増やしており、改善が堅牢な判断ではなく文型規則による可能性を示している。
GitHub Repo
Open Secure AI Alliance、オープンなAIエージェント防御スタックを構築へ――ツール共有とガバナンスの具体化はこれから
NVIDIAと30を超える組織がOpen Secure AI Allianceを設立し、モデル、エージェントフレームワーク、アイデンティティ、隔離、脆弱性スキャン技術を共有する計画を発表した。初期メンバーはNOOA、SPIFFE/SPIRE、Safetensors、Lightwell、MDASHなどの基盤コンポーネントを挙げているが、共通リポジトリ、テスト仕様、提供スケジュールはまだ公表されていない。
AI 安全
システムログに悪意あるテキストを書き込むことで、LLMに実際の攻撃を正常な活動と誤判定させることが可能
新たな研究により、攻撃者が自身で制御できるログフィールドにプロンプトを注入し、SOCで使用されるLLM分析パイプラインを妨害できることが実証された。モデルの説明には操作された痕跡がしばしば表れることも判明したが、このシグナルだけでは信頼できる防御策として不十分だ。
代理工具
GitHub Agentic Workflows 0.83.4、Googleのキーレス認証に対応し、エージェント出力のポリシーコンパイルを強化
GitHubのオープンソース・エージェントワークフローツールがGoogle Vertex AI Workload Identity Federationに対応し、Geminiワークフローで長期有効なサービスアカウントキーを保存する必要がなくなった。新版では安全な出力チェックとBYOKパラメータも拡充されたが、カスタムヘッダーやリクエストフィールドは依然としてデータ流出のリスクを拡大する可能性がある。
AI 安全
Claudeの公開共有ページが検索インデックスに登録、「リンクを知る人だけが閲覧可能」は探索不可能を意味しない
一部のユーザーが自ら共有したClaudeの会話やArtifactsがGoogle検索結果に表示され、当初はリンクを持つ人だけに限定されているように見えたコンテンツが、キーワードで見つけられる状態になった。未共有の非公開会話が侵害されたわけではないが、公開リンク、クローラー制御、ユーザーの認識の間にあるセキュリティ上のギャップが露呈した。
AI 安全
MostarGate、3層の権限の共通部分でエージェント認証情報を縮小——600問のデータセットがまず企業ポリシーの不備を浮き彫りに
新たな研究では、エージェントが利用できる権限を、ロール上限、タスク分類、禁止される組み合わせという3要素の共通部分に限定し、各タスクで完全なロール認証情報を保持することを防ぐ。公開データセットは600件の企業タスクを15種類の最小権限に対応付けているが、93%の改善が示すのはポリシー改訂の効果であり、導入済みシステムにおける攻撃阻止率ではない。
AI 安全
Destructive Command Guard、ルールベースのhooksでエージェントの危険なコマンドを阻止、1日でGitHub Starsが約500増加
Rust製ツールdcgは、AIコーディングエージェントがコマンドを実行する前に、Git、ファイルシステム、データベース、クラウドリソースを破壊する可能性のある操作を阻止する。プロジェクトは7月26日の1日で約497 Starsを獲得したが、あくまでパターンマッチングによる防御であり、サンドボックス、権限分離、バックアップの代替にはならない。
AI 安全
AIによる低品質な報告がトリアージコストを押し上げ、GitHubのバグバウンティは本日から公開・招待制の二本立てに
GitHubは7月27日から、HackerOneのsignal基準により実績の乏しい報告者からの提出を制限し、より高額な報奨金と迅速な対応を招待制のVIPプログラムへ移行する。この制度は、低労力およびAI生成の報告増加に直接対応するものだが、新規研究者が有効な脆弱性を報告する際のハードルを高める可能性もある。
AI 安全
NanoClawのMCP承認カードが実行パラメータを非表示にし、エージェントが一度の同意を永続的な実行設定に転換可能
新たに登録されたCVE-2026-17434は、NanoClaw 2.0.64より前のバージョンに存在する認可上の欠陥を指摘している。管理者が目にするMCPサーバー承認カードには、実際に適用される引数と環境変数が完全には表示されていなかった。修正後はペイロード全体を表示し、機密値をマスキングするとともに入力サイズを制限するようになったが、影響を受けるデプロイでは引き続きバージョンと既存設定を確認する必要がある。
AI 安全
SiYuanのMCPエンドポイントにロールチェックの不備、3.7.2で低権限ユーザーがコアツールを呼び出せる脆弱性を修正
新たに公開されたCVE-2026-66012により、SiYuan 3.7.2より前の`POST /mcp`エンドポイントは通常のログイン状態しか確認せず、管理者ロールや読み取り専用制限を強制していなかったことが判明した。MCPはノート機能の中核をAIクライアントに公開できるため、本来はコンテンツの読み取りのみを許可されたアカウントが、状態を変更する操作を実行できる可能性があった。