AI 安全
Claude Code 2.1.239、クラウドエージェントのアウトバウンド通信を制限し、Bedrockのストリーミング再送による二重課金を修正
新版では、一部のClaude Codeウェブツールのリクエストをセッションネットワークプロキシ経由にすることを義務付け、プロキシ環境、MCPの再接続、機密入力の処理に関する問題も修正した。Python SDKの移行コマンドも追加されたが、Anthropicは脆弱性の深刻度や影響範囲を公表していない。
Archive
AI 安全
模型安全、資安、隱私、供應鏈、紅隊與防護。
AI 安全
代理工具
MCPの新ロードマップはエージェントイベント、HTTPトランスポート、アイデンティティセキュリティに注力、一方でTasksのSDKサポートは依然未整備
MCPメンテナンスチームは、次段階の仕様策定を、サーバー主導イベント、エージェントアイデンティティ、段階的なツール探索など5つの領域に集約した。これらはまだロードマップ上の項目であり、既存SDKによるTasksと拡張通知のサポートにも不足がある。
最新模型
IARは文書の内在化をInject、質問応答Align、重みのマージに分解し、平均してより多くの汎用能力を維持
北京智源研究院の研究チームが、RAGを使わずに固定文書群に関する質問へ回答できるようにする3段階のポストトレーニング手法を提案した。8つの実験条件のうち7つで通常のSFTを全面的に上回ったが、成果は依然として合成質問応答、モデルジャッジ、モデルごとのハイパーパラメータ調整に依存している。
AI 安全
Semantica 0.6.6、エージェントの知識パイプラインにおけるSSRF、インジェクション、認証情報漏えい経路を封鎖
Semantica 0.6.6は、ナレッジグラフのインポート、バックアップ、エクスポート、外部リクエストに関する複数種類の脆弱性を集中的に修正した。メンテナーは、すべてのデプロイ環境にアップグレードを推奨している。新バージョンでは、出典記録を保持できる事実の撤回機構とCrewAI統合も追加された。
代理工具
Hermes Agent 0.20.5、5プロバイダーによるAPIキー不要の検索に対応、スケジュールタスクごとに推論強度を設定可能に
Nous Researchは、APIキー不要のウェブ検索、スケジュールタスクのメモリ、実行停止への保護機能をHermes Agent 0.20.5に導入した。パッチ版と位置付けられているものの、約323件のPRがマージされており、完全な移行ガイドは0.21.0を待つ必要がある。
推論系統
Diffusers 0.40、Modular Pipelineを安定版APIへ移行する一方でJAX／Flaxを削除
Hugging Faceは、MiniMax H3、MiniMax Music 3、Wan-Animate-2をコンポーザブルなブロックとして直接組み込めるようにし、従来型のDiffusionPipelineラッパーを提供しない方針を採った。新バージョンでは、限定的なtensor parallel、低ビット量子化バックエンド、セキュリティ修正も追加されたが、Flaxの削除とLoRA出力の変更を伴う。
AI 安全
SafeBranch、同一状態で安全な分岐をペアリングし、IS-Benchの安全成功率を0.031から0.281へ向上
SafeBranchは、エージェントの危険な軌跡を重要な意思決定地点までロールバックし、同一コンテキスト内の安全な行動と安全でない行動のみを比較する。学習後のデプロイには外部criticが不要だが、現時点の成果はシミュレーション上の家庭環境に限られ、データ構築も依然としてGPT-4oの判定に依存している。
最新模型
ConceptGuardは同一概念の善用と悪用をペアリング、最良条件でも分離スコアはわずか0.38
ConceptGuardは、忘却セットと保持セットを互いに無関係な事実として扱うのではなく、同じ技術の有害な用途を抑制しながら正当な用途を保持するようモデルに求める。4種類のアンラーニング手法はいずれも忘却と有用性のトレードオフを示し、その効果は概念ごとに大きく異なった。
AI 安全
Forge 0.18.1、MCPにユーザー単位のOAuthを導入、ツール呼び出しは認可完了を待って再開可能に
オープンソースのエージェント実行環境Forgeは、MCP接続と認証情報をユーザーごとに分離し、OAuth 2.1のメタデータディスカバリーと動的クライアント登録を自動化できるようになった。新版では、きめ細かなアウトバウンド制御と承認監査も追加されたが、現時点のMCPサポートは依然として主にHTTPトランスポートに限られる。
AI 安全
MaliciousSkillBench、9,740件のエージェントスキルを集約――ソース横断検出でMacro-F1が0.665に低下
新ベンチマークは、13の公開ソースから収集したエージェントスキルを重複排除し、構造ファミリー単位で分割することで、類似サンプルが訓練セットとテストセットの両方に混入するのを防いだ。最高性能のテキスト分類器はランダム分割で優れた結果を示した一方、未知のソースに対しては良性スキルの62.4%を悪意あるものと誤判定した。
AI 安全
8つのクローズドモデルでは通常の応答にコンテキスト内の秘密が潜み得る、4桁の正確な復元率は82％
新たな研究によると、モデルが秘密の直接的な漏洩を拒否しても、応答の長さ、形式、語彙などの統計的特徴がコンテキスト情報を伝える可能性がある。適応型ブラックボックス攻撃では、2桁の秘密をほぼ完全に復元でき、4桁でも正確な一致率は82％に達した。
AI 安全
PolicyGuide、永続的なフロー図でカスタマーサポートエージェントを制約し、4回連続合格率を0.42から0.62に向上
PolicyGuideは、ツール呼び出しの直前にポリシー違反のアクションを阻止するだけでなく、各ユーザーターンで未完了のポリシーステップを追跡する。3つのτ²-benchドメインで信頼性の高い成功率を向上させた一方、ターンごとに1回のLLM検証が追加され、手続き遵守の指標の一部は著者らが独自に設計している。