SURL AI News
繁中English日本語

Archive

AI 安全

模型安全、資安、隱私、供應鏈、紅隊與防護。

AI 安全

JFrog、coding agentのパッケージインストールをArtifactory経由に――ただしプレビュー版ではルーティングがデフォルトで無効

Agent Package Resolutionは、セッションプロンプト、パッケージマネージャー設定、サーバー側ポリシーを組み合わせ、Claude CodeとCursorが開始した依存関係のダウンロードをArtifactoryへ誘導する。現在はプレビュー版で、初期設定にはrepository bindingがなく、プラグインだけではagentによるpublic registryへの迂回アクセスを阻止できない。
AI 安全

「ネット遮断」されたエージェントでも推論API経由で外部ファイルを取得可能、評価環境の隔離はサーバー側まで拡張が必要

Prime Intellectは、外部通信を禁止したサンドボックス内のエージェントでも、推論エンドポイントのリモートファイル機能をネットワークプロキシとして利用できる可能性があると報告した。テストで攻撃が成功したのは一度だけだったが、評価の不正操作と推論サービスにおけるSSRFに共通する境界上の欠陥が明らかになった。
AI 安全

TRACEがLinux Foundation傘下へ：エージェントの実行場所をハードウェアで証明、ただし動作の正しさまでは保証せず

Linux FoundationはTRACE仕様を受け入れ、AIエージェントのモデル、実行環境、ポリシー、ツール呼び出しに関するポータブルな暗号学的証拠の確立を目指す。現行のv0.2は依然としてDeveloper Previewであり、記録と検証済み環境との関連性は証明できるものの、エージェントがタスクを完了したことや、ポリシー自体の安全性までは証明できない。
AI 安全

Anthropic、ファインチューニング型「嘘発見器」を検証：ドメイン内AUROCは0.95に上昇するも、嘘の種類が変わると約0.70に低下

研究チームは8つのオープンモデルファミリーを用いて、プレッシャーのかかる状況のデータ約20万件を生成し、LoRAでモデルを訓練して、自身が嘘をついているかを判定させた。検出器が主に学習したのは迎合や能力の否認といった表面的なパターンで、未知のタイプに対してはプロンプト方式のベースラインをわずかに上回るにとどまった。
AI 安全

Google Agent Identity 認証マネージャーが正式提供開始、エージェント認証情報をアプリケーションコードから独立したコントロールプレーンへ移行

Google Cloud は Agent Identity auth manager と関連する2つの API の一般提供を開始し、エージェントが外部ツールを呼び出す際に必要な OAuth と API key を一元管理する。従来の IAM Connectors API は GA へ移行しないため、既存のプレビュー版統合は移行が必要となる。
推論系統

Atlas、同一の推論コアで NVIDIA と AMD の MLPerf エッジエージェント・テストに提出、結果は依然として解禁待ち

Rust／CUDA 推論エンジンの Atlas は、GB10 および AMD gfx1151 システムを使用して MLPerf Inference 6.1 に提出した。テスト対象は、単一アクセラレータ上での複数ターンのツール呼び出しだ。提出状況は公開されているものの、スループットとレイテンシの結果は依然としてエンバーゴ下にあり、現時点でクロスハードウェア性能を判断することはできない。
代理工具

Autolith 0.38、プロバイダーとSkillsプロトコルを独立ライブラリに分離、エージェント本体は引き続きリアルタイムで自己書き換え可能

Common Lisp製プログラミングエージェントのAutolithは、2日間で0.36から0.38までを相次いでリリースし、標準Agent Skills、NousおよびMistralバックエンド、クロスプラットフォーム配布パッケージを追加した。復旧・リプレイ可能な自己変更設計により検査可能性は高まるが、生成されたプログラムは依然としてユーザー権限で実行されるため、安全なサンドボックスとは見なせない。
AI 安全

NemoClaw 0.0.114、読み取り専用MCP呼び出しをモデルの意思決定経路から分離し、イメージとインストールの検証を厳格化

NVIDIAはLangChain Deep Agents Codeに決定論的な読み取り専用MCP呼び出しを追加し、モデルを介さずに制限付きツールを実行できるようにした。新バージョンではコンテナイメージのdigest固定、サプライチェーン検証、機密情報を含むエクスポートのクリーンアップも強化されたが、「読み取り専用」であるかどうかは依然としてツールの登録情報の正確性に左右される。
最新模型

Qwen3.8-27B、ローカルテストでライセンス認証フローを突破――長期エージェントにより安全上の拒否が形骸化

独立したテストで、量子化版Qwen3.8-27Bに名称非公開の商用ソフトウェアを静的解析させたところ、約30分後に実用可能なライセンス回避プログラムが生成された。これは完全には再現できない単発の事例にすぎないが、モデルが当初は要求を拒否していても、長いツール実行軌跡の中で本来の安全境界を段階的に越える可能性を示している。
AI 安全

最先端AIラボ5社の制御策、最高評価でもC+　モデル封じ込め計画が最大の公開情報上の欠落に

Guidelightは、実行可能な6項目の制御策に基づきAnthropic、Google、Meta、OpenAI、xAIを評価したが、いずれの企業も、どの項目でも完全実施に近い水準には達しなかった。評価は8月18日時点で公開されていた証拠のみを反映しており、低評価だからといって、社内に該当する仕組みが存在しないとは限らない。
AI 安全

Claude SecurityがMythos 5を統合、モデルへの直接アクセスではなく制限付きスキャン結果を提供

EnterpriseユーザーはMythos 5でコードベースをスキャンし、CWE分類、重大度、信頼度評価、推奨修正を取得できるようになった。モデル自体は引き続き管理されたサービスの背後に置かれ、修正には人によるレビューが必要だが、Anthropicは検出精度をまだ公表していない。