SURL AI News
繁中English日本語

Archive

代理工具

Agent、MCP、coding agent、工作流自動化與評測。

AI 安全

Claude in Chromeが自動操作を全面開放、コンテンツ分類器とアクション単位の分類器でプロンプトインジェクションを防御

Anthropicはブラウザエージェントをすべての有料プランに拡大した。ユーザーが計画を一度承認すれば、Claudeは複数タブをまたいでクリック、入力、ワークフローの実行ができる。各自律アクションは安全性分類器による再審査を受けるが、公式テストでは依然として攻撃成功率が0.3%あり、画面のスクリーンショットから機密データが取り込まれる可能性もある。
最新模型

Qwen3.8-Flash-Next、ブロックスパース注意機構とn-gramパラメータ拡張でQwen4の新アーキテクチャを先行検証

AlibabaはQwen3.8-Flash-Nextの重みを公開した。Qwen Sparse Attention、Gated Residual、510億個のn-gram embeddingパラメータにより、長いコンテキストの計算コストを削減する。モデルは26万2,144 tokenをネイティブにサポートするが、性能値は主に公式評価に基づいており、ライセンスも一般的なApache 2.0ではない。
代理工具

MLflow 3.15.2が複数スコアラーのアンサンブルを導入、データセットのイミュータブルなバージョンは現時点でDatabricks限定

新バージョンでは、投票、平均、またはカスタム関数によって複数のLLMスコアラーを統合し、各サブスコアの根拠と出典も保持できる。リリースノートで言及されたイミュータブルな評価データセットのバージョンは現時点ではDatabricksでのみサポートされ、オープンソースのトラッキングバックエンドには同等の機能がまだない。
AI 安全

D2C-Routing、AIテキスト検出を内容と表現の由来に分解、低誤検知で4クラスTPR 0.8603を達成

北京航空航天大学のチームは、テキストがAIによって生成されたかどうかだけを問うのではなく、内容の構想と表層的な表現の由来を個別に判定する。再構築されたMixD2Cテストセットでは、同一のデータ分割で再実行したRACEを上回ったが、データセットをまたぐ汎化性能と完全な再現性にはなお限界がある。
AI 安全

LoopHarness、反復処理をまたぐリスク状態を保持し、5種類のエージェント攻撃の総合ASRを0.1%に低減

新たな研究によると、trajectoryごとにリセットされるguardrailでは、複数の反復処理に分散された攻撃の証拠を識別できず、リスクスコアを時間とともに単純に減衰させる方式も、待機によって回避され得る。LoopHarnessは、著者が管理する1,000件の攻撃episodeにおいて、クリーンなタスクの完了率96.9%を維持したが、結果は独立した再現と実システムでの検証を待つ必要がある。
AI 安全

エージェントフレームワークがコンテキストを再構築する際、悪意ある指示を「権限昇格」——6つのcoding agentすべてに影響

新たな研究により、サブエージェント、永続目標、スケジュールタスクがツール出力を高権限のユーザー指示として再パッケージ化する可能性が明らかになった。攻撃は6つのエージェントで全13種類の標的を達成し、自動権限レビューを有効にしても、検証された経路は阻止されなかった。
最新模型

LAION-BVD、13億件の動画URLを公開—実際に8,000万本、計1,000万時間を処理

LAION-BVDはCommon Crawlから、動画・音声・フレームを横断するオープンな研究用データを構築し、合成キャプション付きの5,500万クリップや3億枚のフレームなどのサブセットを公開した。ViCLIPの評価ではInternVidベースラインを最大2.1%上回ったが、データは研究用途に限定されており、ソースの権利、URLのリンク切れ、合成アノテーションの誤りについては別途対処が必要だ。
AI 基礎設施

ROCm 10、エージェント型カーネル最適化を正式提供へ――一方でABI破壊と既知の不具合も

AMDはROCm 10をリリースし、Hyperloom、AMD Skills、統合CLIを組み込んだROCm.AIの一般提供を開始した。同社は同一ハードウェアで推論性能が平均3.3倍、トレーニング性能が平均2.4倍向上するとしているが、この数値は最適化プロセス全体による効果であり、ランタイムをアップグレードするだけで得られる性能向上とはみなせない。
代理工具

Claude Code 2.1.248にrestrictedモードが追加、デフォルトでコマンド実行とWebFetchを無効化

新しいフラグによりファイルツールを作業ディレクトリ内に制限し、ユーザー設定とプロジェクト設定を読み飛ばすことで、評価プラットフォームや共有ホスト上でのエージェント実行を容易にする。起動引数でツールを再び追加できるため、OSレベルのサンドボックスではない。
AI 安全

AWS、3段階のStrands hookでエージェントのツールフローを検査、ただし権限制御の代替にはならず

AWSは、モデル入力、ツール引数、ツール出力の各段階でBedrock Guardrailsを呼び出し、プロンプトと回答だけを検査する場合の空白を埋める手法を提示した。サンプルではツールごとに異なるルールを適用できる一方、レイテンシー、誤検知率、構造化されたアクションに対する安全性評価は公表されていない。
代理工具

SandboxAQ Switch、Matrixルームで複数のAIエージェントを接続。ただしライセンスは派生サービスの販売を禁止

SwitchはSlack、Teams、Discordなどのチャンネルを共有ルームにマッピングし、Codex、Claude Codeなどのエージェントが共通コンテキストを維持できるようにする。コードはセルフホストできるが、Commons Clauseにより商用再販が制限され、コスト保護機能や一部のセキュリティ制御もまだ完成していない。