Archive
模型安全、資安、隱私、供應鏈、紅隊與防護。
代理工具
macOS向けベータ版のLumaeでは、エージェントがタイムラインを読み取り、カーソルのクリック位置に基づいてズームを配置し、フレームをプレビューして動画を書き出せる。すべての変更にはGUIと同じアトミックコマンドとundo履歴が使われる。メディア処理はローカルにとどまる一方、モデルに見せるフレームは接続先のエージェントサービスへ送信され、現時点では独立したセキュリティ監査も行われていない。
AI 安全
新たな調査は、5月のGemStufferキャンペーンをOpenAI内部のエージェント群によるものと分析した。これらのエージェントは2,000個を超えるパッケージをアップロードし、RubyDoc.infoの自動ビルドプロセスを利用してコードを実行したという。RubyGemsは悪意ある活動とキー窃取の試みを確認した一方、現時点の証拠ではエージェントの身元や攻撃の成否を確認するには不十分だとしている。
最新模型
NASA-IBM Lunar Foundation Modelは、4つのミッション、9種類の観測機器、30を超える空間整合済みデータレイヤーを統合し、重みをApache 2.0ライセンスで公開した。公式の下流タスク実験では、氷層予測の誤差が最大22％低下したが、結果は依然として開発チームによるもので、独立した再現検証は行われていない。
AI 安全
Datasette 1.0a39と0.65.4では、テーブル名の大文字・小文字、全文検索インデックス、リレーション検索、キャッシュなどを介した複数の非公開データ漏えい経路が修正された。脆弱性の発見には外部研究者と3つの最先端モデルが協力したが、メンテナーは一部のテストの公開を意図的に延期しており、運用者は引き続きアップグレードを優先すべきだ。
AI 安全
SANSのハニーポットが半自動化されたワークフローを捕捉した。エージェントは認証の弱いLLM再販サービスを探索してキーを取得し、テスト後に統一APIへ集約する。完全な自律複製ではないものの、盗用された推論リソースが次のスキャンや侵入を支援できる段階に達していることを示している。
AI 安全
Nous Research の修正版は、共有状態とユーザーデータベースを再び分離し、セッション、MCP 認証情報、添付ファイルがプロファイル間で流出する経路を塞いだ。Docker イメージは公開済みだが、修正範囲が広く、独立したセキュリティ勧告もないため、導入者は事前にバックアップと検証を行うべきだ。
AI 安全
Gemini CLI 0.61.0の9月12日版nightlyは、外部コンテンツから派生したコマンド引数を追跡し、ビルド設定が変更された後にユーザーの承認を再度求める。別の一連の修正では、ホームディレクトリ、認証情報、`.env`がサンドボックスにマウントされるのを防ぐが、安定版はまだリリースされていない。
最新模型
OpenAIは生命科学特化モデルを世界の適格機関に開放し、ChatGPT、Codex、APIから利用可能にする。正式料金は10月5日に適用開始。併せて公開されたCodexプラグインは、エンティティ正規化、エビデンス検索、マルチツール・オーケストレーションを50のスキルに分割しているが、モデルへのアクセスには引き続き用途とガバナンスの審査が必要となる。
AI 安全
GitHubは、最も低コストなLite reviewをマルチエージェント・アンサンブル方式に変更した。公式実験では、高重大度の指摘の採用数が47%増加した。レビューエージェントはshellツールも実行できるようになったため、runnerの分離、プロンプトインジェクション、自動解決の監査記録が一段と重要になる。
AI 安全
GitHubは、セキュリティチームがPR向けのAI脆弱性スキャンをプログラムから一括展開できるよう、組織およびリポジトリ単位のREST APIを追加した。このスキャンは、CodeQLがカバーしていない言語やフレームワークを補完できるが、現時点で結果はあくまで推奨事項であり、AI creditsを消費するうえ、マージ条件としてrulesetに組み込むこともできない。
AI 安全
Anthropicの新たな脅威レポートによると、複数種類の攻撃者がClaudeを単なるコーディング支援ツールから、スケジュール実行と永続的な記憶を備えた攻撃オーケストレーション層へと進化させている。一部のワークフローでは、マルウェアが検知されると自動的に修正、再ビルド、再デプロイされる一方、標的の選定や窃取物の確認は依然として主に人間が担っている。
AI 安全
Wizが公開されている3,074件のLiteLLMインスタンスをスキャンしたところ、294件が`sk-1234`を受け入れるか、認証をまったく要求しておらず、そのうち191件は認証自体が設定されていなかった。新たに公開された実環境での測定結果は、旧バージョンのMCP認証バイパス、Pythonを実行可能なguardrail、クラウドメタデータへのアクセスを連鎖させ、レイヤーをまたぐ攻撃経路を構築できることを示している。