Open Secure AI Alliance、オープンなAIエージェント防御スタックを構築へ――ツール共有とガバナンスの具体化はこれから

NVIDIAは7月27日、Open Secure AI Allianceの設立を発表した。初期パートナーにはLinux Foundation、Hugging Face、Microsoft、IBM、Red Hat、CrowdStrike、Cloudflare、Cisco、LangChainなど、30を超える組織が名を連ねる。Allianceが掲げる技術的な主張は、エージェントのセキュリティではモデルの重みを検査するだけでは不十分であり、アイデンティティ、権限、実行フレームワーク、隔離、ログ、ガードレール、評価を一体的な防御スタックとして捉える必要があるというものだ。また、セキュリティチームが自らデプロイして検証できるコンポーネントを提供するとしている。

発表では、既存または新たに公開された複数のプロジェクトが、この青写真の構成要素として位置付けられた。NVIDIAは、状態とツールをPythonクラスで表現するNOOAを含む、モデル、データ、エージェントフレームワークの研究成果を提供する。HPEはワークロードアイデンティティのSPIFFE/SPIRE、Hugging Faceはモデルファイルによる任意コード実行を防ぐSafetensorsを提示した。IBMとRed Hatは署名付きパッチ適用ワークフローのLightwellを提供し、Microsoftは複数の特化型エージェントを連携させ、悪用可能な脆弱性を発見し、議論し、検証するMDASHを提供する。Allianceは脆弱性の修正と開示にも取り組み、モデルスキャン、エージェント隔離、セキュアなソフトウェア開発プロセスを発展させるとしている。

この取り組みの直接的な背景には、Hugging Faceが最近インシデントに対処した際、オープンウェイトモデルのGLM-5.2を自社インフラストラクチャ上で実行し、1万7,000件を超えるアクションを分析したとされる事例がある。公式説明では、クローズドなサービスのセキュリティポリシーによって、防御側のフォレンジック活動まで阻止される可能性を示す例として紹介された。またCrowdStrikeによると、同社の脆弱性調査テストでは、同等クラスのモデルを汎用フレームワークと組み合わせた場合、偽陽性率は80%近くに達したが、セキュリティ専用フレームワークを導入すると約20%まで低下したという。この結果は、モデルの変更よりもエージェントを取り巻く設計のほうが、実用性に大きな影響を与える可能性を浮き彫りにしている。

ただし現時点では、このAllianceを完成済みのプラットフォームではなく、技術的な方向性とメンバー各社のコミットメントとして捉えるべきだ。発表では、統一された脅威モデル、共通API、ベンチマークデータセット、ライセンスポリシー、脆弱性開示SLA、独立したガバナンス体制は示されていない。また、メンバーが引用した数値も、同一の公開評価に基づいて得られたものではない。エンジニアリングチームは、各コンポーネントが組み合わせ可能なリファレンスアーキテクチャを形成するか、またAllianceが再現用スクリプト、攻防データ、モデル横断テストを公開できるかをまず注視すべきであり、メンバー数の多さだけを理由に、そのセキュリティ保証がすでにデプロイ可能な段階にあると想定すべきではない。