Archive
模型安全、資安、隱私、供應鏈、紅隊與防護。
AI 安全
AgentJail 1.7.0 は、型付きライフサイクルによってファイル、コマンド、ネットワーク、MCP、認証情報への権限を管理し、grant は有効化と監査が完了するまで使用できない。新版では信頼済みホストコネクタも導入されたが、本番環境の MCP forwarding は引き続き fail-closed を維持し、ネイティブな承認証跡に紐づけられる前にデータ経路が開放されることを防ぐ。
代理工具
Reasonix 1.34.0では、CLIとデスクトップ版がMCPのマルチターン対話およびAppsに対応し、埋め込みコンテンツはサンドボックス環境で表示されるようになった。さらに、`serve`とGitに関する6件のセキュリティ上の欠陥を塞ぎ、能力呼び出しに並列スケジューリング、review budget、metricsを追加した。
AI 安全
Cornell Techの研究者らは、もともと投機的デコーディング向けだったMTP／Eagle3モジュールを、主モデルを再実行せずに済む系列分類器へ転用した。この手法で訓練するパラメータは約1.6万～2万個にすぎないが、性能はドラフトヘッドの品質と数千件のタスク固有ラベルに左右される。
代理工具
DeepSeek Harnessの新版では、メインエージェントが認可された範囲内で、サブエージェントのプロバイダー、モデル、推論強度、最大出力長を選択できるようになった。さらに、ACPのセッション、MCP、権限、キャンセルの各インターフェースも完成した。ネットワークおよび外部モデルとの統合も拡大したが、公式はサンドボックスと承認機構を安全な分離手段と見なすことはまだできないと明確に警告している。
AI 安全
Fetchgateが公式Registryに登録された15,329件のリモートURLに対して読み取り専用のハンドシェイクを実行したところ、接続可能な5,462エンドポイントがサーバーレベルの指示を送信していた。問題はプロンプトインジェクションだけでなく、ターンごとに繰り返し発生するコンテキストコストや、ツール間での暗黙的な優先順位争いにも及ぶ。
最新模型
Z.aiはGLM-5.3のFP8重みを公開し、攻撃能力の向上を受けて設けた2週間の安全猶予期間を終了した。モデルはvLLMやSGLangなどのフレームワークでデプロイできるが、大手MaaS事業者には別途、安全審査条項が適用される。
代理工具
Lemmalogはエージェントの記憶を、LLMが抽出する事実と、ルールエンジンが維持管理する検証可能な状態に分割する。初期評価では、回答段階のコンテキストを大幅に短縮できることが示された一方、全体的な精度は依然として事実抽出とエンティティアライメントの制約を受けている。
AI 安全
NVIDIAは、0.0.113でローカル推論と状態ドリフトの検証を強化したのに続き、サンドボックス、推論サービス、ライフサイクル権限を永続的に検証可能なアイデンティティにバインドし、再試行や復旧操作が同名ながら別の実行環境を引き継ぐことを防ぐ。
AI 安全
研究者は Python のモジュールシャドーイングを悪用し、Claude Code が自ら作成した安全なデコーダーに悪意ある `struct.py` を読み込ませ、最終的にリモートコード実行を実現した。この事例は、ツール呼び出しごとの分類器が OS レベルの隔離の代替にはならず、公式評価で成功率がゼロでも、未知の攻撃チェーンにまでその結果を一般化できないことを示している。
代理工具
Model Hardware Standardは、機器の機能、自然言語による説明、安全上の制約を探索可能なドライバーインターフェースにカプセル化し、エージェントがMCP、CLI、APIを介して複数の機器を連携制御できるようにする。現時点では申請制の研究プレビューであり、仕様、コード、モデル横断の安全性評価はまだ公開されていない。
代理工具
Cursorでは、既存のGitHubなどのソースコードリポジトリへの接続が不要になり、エージェントがプロジェクトを直接作成し、ブラウザからリアルタイム環境を操作できるようになった。新しいワークフローはプロトタイプからデプロイまでの距離を縮める一方、クラウド実行、ネットワーク公開、サプライチェーン権限に関する監査範囲も拡大させる。
最新模型
CLAPはまず、ラベルなし動画から潜在行動を通じて物理法則を学習し、その表現をロボットのエンドエフェクタ座標へ再接続する。研究チームはコードと複数のcheckpointを公開しているが、生成動画における物理的なハルシネーションが、安全性の重要な制御に直接利用するうえでの制約となっている。