AI 安全

模型安全、資安、隱私、供應鏈、紅隊與防護。

GitHub Repo

Hermes Agentコミュニティ、スマート承認の不備を報告—未保存文書を閉じるAppleScriptが自動承認される可能性

10月19日のHermes Agentへの報告によると、スマート承認が未保存のプレゼンテーションを閉じるAppleScriptコマンドを自動承認し、ユーザーデータが失われる可能性がある。別の貢献者が承認上の不備を再現し、コミュニティは手動確認を必須にする修正ブランチを提案したが、正式な修正版はまだ公開されていない。

GitHub Repo

Hermes Agent、ネイティブログインのリダイレクト脆弱性を修正 URL解析の差異によりセッション乗っ取りのおそれ

Tenableは10月9日、Hermes Agentのネイティブログインに関する脆弱性を公表した。サーバーとブラウザーでコールバックURLの解析方法が異なり、認可コードが攻撃者に渡る可能性がある。修正はv0.21.6に含まれるが、Desktop、Termux、Microsoft Store向けパッケージは同時に更新されていない。

GitHub Repo

PyTorchコミュニティがB300で注意機構の勾配異常を報告、cuDNNで特定の短系列にNaNが発生する可能性

10月9日のPyTorchコミュニティからの報告によると、B300で特定の短系列とブールマスクを組み合わせると、cuDNNの注意機構の逆伝播でNaNが発生する可能性がある一方、順伝播の出力は正常なままだという。メンテナーは新しいcuDNNでは再現しなかったとし、nightlyまたは2.15候補版でのテストを勧めているが、報告者の環境ではアップグレード後の検証がまだ行われていない。

GitHub Repo

Hermes Agent が v0.21.6 をリリース、ログイン保護と自動 Git 操作のセキュリティ修正を追加

Nous Research は 10 月 8 日、Hermes Agent v0.21.6 をリリースしました。ダッシュボードのログインと、信頼できないリポジトリ設定に起因するセキュリティ問題を修正しています。この安定版では Docker イメージと Git タグが提供され、デスクトップアプリと Termux パッケージは現行バージョンのままです。

GitHub Repo

LangGraph JSで認証情報の分離に関する不具合が公表、共有ヘッダーオブジェクトにより異なるクライアント間でAPIキーが混在する可能性

LangGraphのメンテナーは10月7日、JS SDKが呼び出し元から渡されたヘッダーオブジェクトを書き換え、異なるクライアント間で認証情報が混在する可能性があるとするセキュリティアドバイザリーを公表した。修正版が示されているが、問題の発生には特定の共有オブジェクト構成が必要で、公式評価は低リスクとなっている。

最新模型

Mistral Large 4、APIで公開プレビュー開始 1兆パラメータのMoEモデルが脆弱性の再現・修正評価で81.7%を記録

Mistralは10月6日、Large 4の公開プレビューを開始した。ネイティブなマルチモーダルMoEアーキテクチャを採用し、重みは月末に公開予定。独立したセキュリティ評価では脆弱性対応能力が際立ったが、テストに合格しても元の脆弱性が完全に修正されたとは限らない。

GitHub Repo

Open WebUI、ツールのエクスポート脆弱性を公表 読み取り専用共有でソースコード漏えいのおそれ

ツールのエクスポート権限を持つ非管理者が、読み取り専用で共有されたツールのPythonソースコードをダウンロードできる可能性がある。公式は0.11.4で修正済み。運用者はグループ権限と、コード内に認証情報が保存されていないかを確認する必要がある。