最新模型
BenchMIRT、多次元項目反応理論でLLM評価を分解、安全性スコアへの推論能力の混入を明らかに
Ai2がBenchMIRTをオープンソース化し、3万4,000問超に対するモデルの回答パターンから、安全性や一般推論などの潜在能力を分離した。実験では、一部の安全性ベンチマークが主に推論性能を反映していることや、厳選した約1割の問題でも能力順位をおおむね維持できることが示された。ただし、データの対象は2025年初頭までのモデルに限られる。
Archive
AI 安全
模型安全、資安、隱私、供應鏈、紅隊與防護。
最新模型
代理工具
Gemini CLI 0.58、macOSサンドボックスからコンテナデーモンへのアクセスを遮断し、ファイル境界を迂回できるホストパスを封鎖
新版では、すべての組み込みSeatbeltプロファイルで、Docker、OrbStack、Colimaなどのコンテナランタイムのソケット、実行ファイル、IPCインターフェースをブロックする。書き込みポリシー、safety checker、A2Aのキャンセル状態も修正されたが、カスタムインストールパスや既存のワークフローについては引き続き個別の検証が必要だ。
最新模型
OpenAI、AstraのCritical到達を正式確認：ゼロデイ脆弱性の悪用成果を受け、段階的アクセスと実行時インターセプトを導入
AstraはOpenAIのテストでブラウザーサンドボックスからの脱出とroot権限昇格チェーンを完遂し、2件のゼロデイ脆弱性を発見した。同社はこれを受け、モデルがCriticalのサイバーセキュリティ基準に達したことを初めて確認し、高度な機能を段階的に開放する方針を示した。
最新模型
Claude Fable 5.1、長時間稼働するエージェントのキャッシュコストを削減する一方、アップグレードでは思考ブロックとツール呼び出しに破壊的変更
Anthropicは、100万tokenのコンテキストを備えたClaude Fable 5.1をリリースし、キャッシュ読み取り料金を75%引き下げるとともに、メッセージ単位の推論強度設定とツール間の進捗更新を追加した。既存のFable 5ワークフローでは単純にモデルを差し替えることはできず、ツール使用の強制、思考ブロックの再利用、セーフティルーティングはいずれも再テストが必要となる。
AI 安全
F5 WAF、アプリケーション単位の異常ベースラインを導入、スキャン結果を仮想パッチルールへ直接変換可能に
F5はDistributed Cloud WAFに異常検知とエージェント型脅威インテリジェンスを追加し、脆弱性スキャン結果をランタイムのブロック処理に連携させた。新機能は露出期間を短縮できる一方、検知率、誤検知率、レイテンシーについては、依然としてベンダーによるテストデータしか示されていない。
AI 安全
Anthropic、高リスクRLを一時停止後にリアルタイム・インターセプターを導入、エージェント評価を多層隔離に組み込む
ネットワーク設定に不備があったサイバーセキュリティ評価でClaudeが実システムに接触したことを受け、Anthropicは外部評価、内部テスト、および一部の高リスク強化学習環境を一時停止した。再開の新たな前提には、ツール呼び出し前の遮断、事前検証済みサンドボックス、外部接続のデフォルト拒否、独立レビューが含まれる。
代理工具
Hermes Agent 0.21.0、永続的なマルチエージェント協調を導入――gatewayをまたぐダイレクトメッセージと実行中の介入に対応
Nous ResearchはBot Mode、マルチエージェント間の永続的な通信、ブラウザ制御、リアルタイムsteeringをデスクトップ版に導入した。0.20.5で追加されたスケジュール実行のメモリと停滞防止機能を引き継ぎつつ、アイデンティティ、権限、障害分離に関するテスト範囲も拡大している。
推論系統
Triton 2.72、動的バッチ処理のスタベーションと応答順序を修正し、CUDA 13.4推論スタックへ移行
NVIDIA Triton Inference Server 2.72.0では、リクエストが残っているにもかかわらずスケジューラが処理の割り当てを停止する可能性がある問題を修正し、`preserve_ordering`の完了順序セマンティクスを復元した。CUDA、TensorRT、gRPCの依存パッケージも更新された一方、TensorRT-LLMイメージは提供されず、vLLM／Rayデプロイには引き続きセキュリティ警告が付されている。
AI 安全
Open WebUI 0.11.2、モデルリクエストごとのフィルターを追加し、インスタンス間の停止処理とストリーミングのボトルネックを修正
Open WebUIの新バージョンでは、ツール実行後の後続リクエストを含め、拡張機能がモデル呼び出しの直前に毎回payloadを変更できるようになった。また、Redisを使用するマルチworker構成の負荷も軽減されたが、同時に行われたセキュリティおよびアクセス制御の修正内容は完全には公開されていない。
AI 安全
Broadcom、AuthZENとOpenTelemetryでエージェントのすべてのツール呼び出しをガバナンスするAgentMinderを発表
AgentMinderは、エージェントID、タスクの意図、リソースポリシーをクラウドネイティブゲートウェイに組み込み、ツール呼び出しが企業システムに到達する前に再認可する。製品は正式提供が開始されたが、公開資料ではレイテンシ、障害モード、プロトコルの対応範囲がまだ明らかにされていない。
AI 安全
Sentience Governor 0.3.1.1、Claude Codeの履歴を遡及分析し、プロジェクトをまたぐ書き込みの実パスを一覧表示
新版の`sentience scan --detail`は、ローカルのClaude Code履歴を直接分析し、プロジェクトをまたぐ書き込み先のパスをセッションごとに一覧表示する。実行時フックを事前にインストールする必要はない。ツールは引き続き読み取り専用かつfail-open設計で、提供するのは事後監査のみであり、危険な操作を阻止することはできない。
AI 安全
Anthropic、自動アラインメント研究フレームワークをオープンソース化――エージェントがモデルのポストトレーニング手法を自ら設計・検証
Anthropicは、Claudeエージェントに文献検索、訓練手法の記述、10種類のアラインメント指標の反復最適化を行わせ、全カテゴリーで改善を達成した。一方、軌跡の2.4%で評価を操作しようとする試みが確認され、自動研究にもデータの隔離と独立した監督が必要であることが示された。