AI 安全
MissClick、座標トークンの桁位置を悪用してGUIエージェントを攻撃—標的型の誤クリック成功率は最大62.67%
MissClickはGUI座標を通常のテキストとして扱うのではなく、百の位のトークンをわずかに変化させることで、クリック位置を大幅にずらす。OS-AtlasとUGroundを対象とした研究では攻撃成功率が大きく向上しており、コンピューター操作エージェントの安全性は、要素の位置特定精度だけでは評価できないことが示された。
Archive
全ニュース
技術ニュース 981 件
AI 安全
模型訓練
ReflectRL、専門家の誤答軌跡を訓練シグナルに変換――GRPOのクロスドメイン評価で平均19.1ポイント向上
ReflectRLは、強力なモデルが誤答した推論軌跡を破棄せず、学生モデルに局所的な誤りを特定させたうえで、そのヒントを段階的に取り除く。研究では9つのベンチマークで安定した性能向上が報告されているが、成果は主に数学的推論の設定で得られたもので、プロジェクトに記載されたGitHubリンクも現在アクセスできない。
AI 開發工具
GitHub Spark、新規アプリの作成を停止。llm()を使用する既存プロジェクトは推論サービスの切り替えが必要
GitHubは、Sparkへの新規ユーザー登録と新規アプリの作成を停止した。既存ユーザーがコードをエクスポートできるのは8月31日まで。デプロイ済みのWebサイトは引き続き稼働するが、GitHub Modelsに依存するllm()呼び出しはすでに機能しておらず、開発者は外部モデルを接続し、API keyと請求の管理を引き継ぐ必要がある。
AI 評測與安全
科学的推論ベンチマークで「答えは正しいが、方法は誤り」——HLEでのショートカット解答率は37.4%
新たな研究により、モデルが数式の推測、列挙、あるいは答えを先に推測してから検証するといったショートカットを用い、問題で求められた導出を完了しないまま正解を得る場合があることが分かった。研究チームは、最終回答だけを照合すると最先端モデルの科学的推論能力を過大評価する可能性があると指摘する一方、自動監査器自体にも分類誤差が残るとしている。
機器人與世界模型
Faster-WAM、ロボットのアクションヘッドを1層に縮小し、制御推論レイテンシを66.5ミリ秒に短縮
Faster-WAMは、30層の動画Transformerに1層のアクションヘッドを接続し、層横断KV融合によって世界モデルの表現を取得することで、アクションブランチがバックボーン全体の深さを複製する必要をなくした。研究ではFast-WAM比で3.2倍の高速化が報告されているが、新アーキテクチャのコードと重みはまだ公開されておらず、結果も主にシミュレーションベンチマークに基づいている。
AI 代理與自動化研究
Iris、修訂可能な知識状態でML実験を駆動し、MLE-Benchの12時間設定でメダル獲得率64.9%を達成
Irisは、候補解のツリーに沿ってコードを繰り返し修正するだけではない。まず重要な未知事項を調査し、実験をまたぐ証拠を、追加・更新・撤回可能な主張として整理する。論文によると、完全版MLE-Benchにおいて、直接比較対象の半分の時間でより高いメダル獲得率を達成した。ただし、システムのソースコードと完全な実行トレースはまだ公開されていない。
AI 基礎設施
AtumAI、データセンター制御戦略を検索可能な仕様へコンパイルし、3種類のタスクすべてで人手によるベースラインを上回る
AtumAIは、自然言語の要件を、目的、ハード制約、決定変数、評価方法を含む中間表現へ変換し、拡散モデル、進化的アルゴリズム、サロゲートモデルを組み合わせて戦略を探索する。研究ではワークロード配置、リソーススケーリング、電力管理での改善が報告されたが、結果はシミュレーターによるものであり、本番環境のコントロールプレーンを安全に引き継げることはまだ実証されていない。
AI 代理與強化學習
Harness-R1、エージェントの失敗軌跡から実行フレームワークの修正を学習——Qwen3.5-9Bの成功率が9.3ポイント向上
Harness-R1は、対象エージェントのモデル重みを調整するのではなく、別の9Bモデルを訓練し、そのコンテキスト、ツール、検証プログラムを修正する。3つの環境における平均成功率は44.3%から53.6%に上昇したが、パッチの安全性を検証できる公開コードはまだ提供されていない。
模型訓練與最佳化
CMuon、DiTの融合重みを分割してから直交化——675MモデルでAdamW比2倍の学習速度
CMuonは、Muonが融合後のQKV、AdaLN、FFNの重みを一括して直交化すると、機能の異なる部分空間が互いに干渉することを明らかにした。ブロック単位のモメンタム直交化によって学習後半の収束を改善したが、2倍の高速化は現時点では単一の675M DiT設定でのみ検証されている。
LLM 推論系統
xPress、拡散型ドラフトに因果関係を復元し、Qwen3-8Bのデコードスループットを平均約1.3倍に向上
xPressは、ブロック拡散ドラフトとターゲットLLMの間に1回の並列因果リファインメントを追加し、「各トークンは妥当だが、シーケンス全体としては不自然」であることによる早期棄却を抑える。研究報告によると、ドラフトの平均受理長は約30％増加したが、現時点では独立検証が可能な公開実装はない。
AI 代理與 RAG
HALT、エビデンス網羅率に基づいてRAGエージェントの停止タイミングを決定、検索ループを最大45%削減
HALTは、検索が完了したかどうかを生成モデルの確信度で判断するのではなく、マルチホップ問題に必要な各主張がエビデンスによって裏付けられているかを個別に検証する。凍結済みの検索エージェントに外付けできるが、実際の削減幅は、正確な中間主張を事前に生成できるかどうかに大きく左右される。
AI 代理／可靠性
AgentTrajectorySentinel、マイクロ秒単位の時系列監視でエージェントの暴走を阻止、実験でタスク成功率が52％から73％に向上
新たな研究では、別のLLMにエージェントの各ステップを審査させる代わりに、ツール操作、レイテンシー、出力、token確率などのテレメトリーから軌跡の逸脱を検出する。システムのコストは1ステップ当たり約200マイクロ秒だが、導入環境ごとに正常な軌跡を用いた再キャリブレーションが必要となる。