Archive

AI 安全

模型安全、資安、隱私、供應鏈、紅隊與防護。

Hermes Agent が v0.21.6 をリリース、ログイン保護と自動 Git 操作のセキュリティ修正を追加

Nous Research は 10 月 8 日、Hermes Agent v0.21.6 をリリースしました。ダッシュボードのログインと、信頼できないリポジトリ設定に起因するセキュリティ問題を修正しています。この安定版では Docker イメージと Git タグが提供され、デスクトップアプリと Termux パッケージは現行バージョンのままです。

LangGraph JSで認証情報の分離に関する不具合が公表、共有ヘッダーオブジェクトにより異なるクライアント間でAPIキーが混在する可能性

LangGraphのメンテナーは10月7日、JS SDKが呼び出し元から渡されたヘッダーオブジェクトを書き換え、異なるクライアント間で認証情報が混在する可能性があるとするセキュリティアドバイザリーを公表した。修正版が示されているが、問題の発生には特定の共有オブジェクト構成が必要で、公式評価は低リスクとなっている。

Transformersコミュニティが5.19.0のインポート互換性の不具合を報告、旧バージョンのPyTorchとCPUのみの環境で問題の可能性

10月7日のコミュニティによる再現報告によると、Transformers 5.19.0ではPyTorch 2.5.1や、アクセラレーターのない2.6.0環境で、モデルクラスをインポートできない場合がある。報告には最小再現コードと回避策が含まれるが、メンテナーによる確認や修正のマージはまだ行われていない。

Mistral Large 4、APIで公開プレビュー開始　1兆パラメータのMoEモデルが脆弱性の再現・修正評価で81.7%を記録

Mistralは10月6日、Large 4の公開プレビューを開始した。ネイティブなマルチモーダルMoEアーキテクチャを採用し、重みは月末に公開予定。独立したセキュリティ評価では脆弱性対応能力が際立ったが、テストに合格しても元の脆弱性が完全に修正されたとは限らない。

Open WebUI、ツールのエクスポート脆弱性を公表　読み取り専用共有でソースコード漏えいのおそれ

ツールのエクスポート権限を持つ非管理者が、読み取り専用で共有されたツールのPythonソースコードをダウンロードできる可能性がある。公式は0.11.4で修正済み。運用者はグループ権限と、コード内に認証情報が保存されていないかを確認する必要がある。

GitHub Copilotに企業向け設定バリデーターが追加、ガバナンスを無効化しかねない構成ミスを特定

バリデーターは中央設定とチームによるオーバーライドを検査し、問題のあるファイルとJSONパスを報告する。設定は対応クライアントに同期される必要があり、検証に通った後も実際に適用されたか確認が必要だ。

エージェント安全性研究：10構成のうち9構成で、指示に従ってローカル実行トレースを削除

完全アクセスモードでトレースの削除、スキルへの指示注入、報酬による誘導を検証し、エージェントの作業権限と監査データが重なるリスクを明らかにした。チームは実験フレームワークを公開したが、結果は権限設定と人手で設計した報酬に左右される。

GitHub Agentic autofixがCopilot Memoryに対応、安全修正パターンをタスク間で再利用

セキュリティアラートを処理する際、エージェントは既存のメモリを参照し、新たに生成した修正パターンを保存して他のCopilot機能で利用できる。機能は引き続きパブリックプレビューで、成功率やコスト改善のデータは公表されていない。

Dify Enterprise 3.9.13がAnyIOの修正を取り込み、デプロイ時にはイメージの差異を確認

新版は依存パッケージを更新し、TLS証明書検証とプロセスプールのブロッキングに関するリスクに対処。デフォルトのイメージには未解決の脆弱性が残っており、実際の影響は実行経路に応じて判断する必要がある。

LightLLMのNCCL制御チャネルにリモートコード実行の脆弱性が判明

脆弱性はプリフィル／デコード分離ノードのRPyCサービスに関係し、攻撃者が制御ポートに接続できることが悪用の条件となる。公開された再現結果では、悪用後もヘルスチェックは正常だった。アドバイザリには修正済みバージョンがまだ記載されていない。

AISI、推論計算量の評価をEvaluation Cardsに統合、レポート間の比較に向け設定を公開

AISIとEvalEvalは、既存研究の結果と設定を共通形式で整理した。対象は主実験の5つのベンチマークと関連するサイバーセキュリティ評価。予算やフィードバック条件の確認に役立つが、形式の検証は独立した再現実験を意味しない。

DUMA-Bench、ユーザーとの対話をテストに導入　論文とリポジトリのスコアはなお不一致

新たなベンチマークは、変化する環境と複数ターンの対話を通じて、エージェントの操作や応答が安全規則に違反していないかを検証する。論文では対話モードで違反が増える傾向が観測されたが、公開結果には数値の食い違いがあり、再現時にはバージョンの照合が必要だ。