SURL AI News
繁中English日本語

Archive

全ニュース

技術ニュース 966 件

代理安全／校準

偽のプロ向けダッシュボードでLLMエージェントが賭けに出やすく、12モデルの行動コミット率は36.8％に上昇

新たな研究により、予測不可能な問題でも権威的に見えるデータダッシュボードを添えると、すべての数値が捏造であっても、LLMエージェントは方向性のある判断を下しやすくなることが分かった。540件の合成事例によるファインチューニングで行動ゲートを一時的に修正できるものの、出力形式を強制すると効果は失われる。
代理安全與瀏覽器自動化

Claude in Chromeが自動操作を全面開放、コンテンツ分類器とアクション単位の分類器でプロンプトインジェクションを防御

Anthropicはブラウザエージェントをすべての有料プランに拡大した。ユーザーが計画を一度承認すれば、Claudeは複数タブをまたいでクリック、入力、ワークフローの実行ができる。各自律アクションは安全性分類器による再審査を受けるが、公式テストでは依然として攻撃成功率が0.3%あり、画面のスクリーンショットから機密データが取り込まれる可能性もある。
機器人與具身 AI

Isaac 0.5、動画理解とロボット制御を統合するも、将来知覚の中核的な訓練目標は依然非公開

Perceptron AIは、360億パラメータのIsaac 0.5の重みとLeRobot統合を公開し、同一のスパースなバックボーンから言語、空間座標、連続または離散アクションを出力できるようにした。一般動画によって遠隔操作データの必要量を大幅に削減できると公式は主張するが、これはオフラインのaction lossに基づく換算であり、中核となる自己教師あり学習目標は依然としてプロプライエタリ技術である。
模型與推論架構

Qwen3.8-Flash-Next、ブロックスパース注意機構とn-gramパラメータ拡張でQwen4の新アーキテクチャを先行検証

AlibabaはQwen3.8-Flash-Nextの重みを公開した。Qwen Sparse Attention、Gated Residual、510億個のn-gram embeddingパラメータにより、長いコンテキストの計算コストを削減する。モデルは26万2,144 tokenをネイティブにサポートするが、性能値は主に公式評価に基づいており、ライセンスも一般的なApache 2.0ではない。
LLMOps 與評測工具

MLflow 3.15.2が複数スコアラーのアンサンブルを導入、データセットのイミュータブルなバージョンは現時点でDatabricks限定

新バージョンでは、投票、平均、またはカスタム関数によって複数のLLMスコアラーを統合し、各サブスコアの根拠と出典も保持できる。リリースノートで言及されたイミュータブルな評価データセットのバージョンは現時点ではDatabricksでのみサポートされ、オープンソースのトラッキングバックエンドには同等の機能がまだない。
AI 評測與安全

D2C-Routing、AIテキスト検出を内容と表現の由来に分解、低誤検知で4クラスTPR 0.8603を達成

北京航空航天大学のチームは、テキストがAIによって生成されたかどうかだけを問うのではなく、内容の構想と表層的な表現の由来を個別に判定する。再構築されたMixD2Cテストセットでは、同一のデータ分割で再実行したRACEを上回ったが、データセットをまたぐ汎化性能と完全な再現性にはなお限界がある。
AI safety research

LoopHarness、反復処理をまたぐリスク状態を保持し、5種類のエージェント攻撃の総合ASRを0.1%に低減

新たな研究によると、trajectoryごとにリセットされるguardrailでは、複数の反復処理に分散された攻撃の証拠を識別できず、リスクスコアを時間とともに単純に減衰させる方式も、待機によって回避され得る。LoopHarnessは、著者が管理する1,000件の攻撃episodeにおいて、クリーンなタスクの完了率96.9%を維持したが、結果は独立した再現と実システムでの検証を待つ必要がある。
模型訓練

進化戦略によるポストトレーニングはより多くの推論経路を保持、Pass@32でGRPOを平均的に上回る

新たな研究では、パラメータ摂動とフォワード評価のみを用いて推論モデルを訓練し、進化戦略がGRPOのエントロピー崩壊と大規模サンプリング時のカバレッジ低下を緩和できることを示した。結果は1.5Bから7Bまでのモデルを対象としているが、訓練規模、タスク範囲、再現性には依然として制約がある。
AI 安全

エージェントフレームワークがコンテキストを再構築する際、悪意ある指示を「権限昇格」——6つのcoding agentすべてに影響

新たな研究により、サブエージェント、永続目標、スケジュールタスクがツール出力を高権限のユーザー指示として再パッケージ化する可能性が明らかになった。攻撃は6つのエージェントで全13種類の標的を達成し、自動権限レビューを有効にしても、検証された経路は阻止されなかった。
資料集與多模態研究

LAION-BVD、13億件の動画URLを公開—実際に8,000万本、計1,000万時間を処理

LAION-BVDはCommon Crawlから、動画・音声・フレームを横断するオープンな研究用データを構築し、合成キャプション付きの5,500万クリップや3億枚のフレームなどのサブセットを公開した。ViCLIPの評価ではInternVidベースラインを最大2.1%上回ったが、データは研究用途に限定されており、ソースの権利、URLのリンク切れ、合成アノテーションの誤りについては別途対処が必要だ。
AI 基礎設施

ROCm 10、エージェント型カーネル最適化を正式提供へ――一方でABI破壊と既知の不具合も

AMDはROCm 10をリリースし、Hyperloom、AMD Skills、統合CLIを組み込んだROCm.AIの一般提供を開始した。同社は同一ハードウェアで推論性能が平均3.3倍、トレーニング性能が平均2.4倍向上するとしているが、この数値は最適化プロセス全体による効果であり、ランタイムをアップグレードするだけで得られる性能向上とはみなせない。