推論系統
同一モデルがツール呼び出し予測器を兼任、Qwen 4Bの次ステップ的中率が17ポイント超向上
研究チームは、エージェントが推論中に自身の次のツール呼び出しを予測して先行実行する仕組みを開発し、外部ドラフトモデルを共有重みとKV cacheで置き換えた。共同強化学習により、2種類のQwen 4Bモデルの平均Hit@1はそれぞれ61.2と66.3に向上したが、論文では実際の並列デプロイにおけるエンドツーエンドの高速化はまだ定量化されていない。
Archive
代理工具
Agent、MCP、coding agent、工作流自動化與評測。
推論系統
AI 安全
SkillGate、ルールでエージェントスキルを事前選別しLLM入力を77%削減するも、攻撃の約4分の1を見逃す
オープンソースのSkillGateは、エージェントがスキルを読み込む前に530個のルールで疑わしい箇所を特定し、LLMによる判定と隔離に引き渡す。公式ベンチマークでは誤検知率1.13%、再現率76.9%を記録し、低コストなゲートウェイの実現可能性を示したが、サンドボックスや最小権限の代替にはまだならない。
最新模型
Shieldstral、モデレーションポリシーをクエリに組み込み、3Bマルチモーダルモデルがテキスト安全性評価で平均F1 84.9%を達成
Shieldstralは、コンテンツモデレーションを自然言語で指定できる二値質問応答として統一し、同一モデルで製品の文脈に応じて判定基準を切り替えられるようにした。論文によると、テキストとマルチモーダルの平均F1はそれぞれ84.9%と83.8%に達したが、モデルの重みと完全な推論パッケージはまだ同時公開されていない。
AI 安全
1,723件のMCPアプリを実測：約3分の2がツール実行前の承認を要求せず
初の大規模なMCPクライアント研究により、公式SDKとファイルベースの設定が主流となる一方、ブロッキング型のツール承認率はわずか37.2%であることが判明した。プロトコルは通信形式を統一したものの、権限、設定、Human-in-the-Loopによる監督については、アプリケーション層で一貫した慣行がまだ確立されていない。
代理工具
100ページ超の企業規程でエージェントを制約するHANDBOOK.md、30種類のモデル構成でも最高厳格合格率はわずか36.2％
Surge AIは、メール、チャット、カレンダー、企業向けツールを横断し、20～124ページに及ぶ可変ポリシーへの準拠をモデルに求める、65件の長期ワークフロー型エージェントタスクを公開した。すべてのルールを同時に満たす必要がある厳格評価では、最良の構成でも合格率は36.2％にとどまり、長いコンテキスト容量が継続的なコンプライアンスを意味するわけではないことが示された。
代理工具
PatientAgentBench、1,200件のツール対話で医療エージェントを評価――最強モデルでもトリアージ合格率は88％
Amazon ScienceがPatientAgentBenchを公開した。医療エージェントに、合成診療記録と状態を持つツールを使って複数ターンのプライマリケア業務を遂行させる。10モデル間で最大の差が生じたのはトリアージ判断であり、医学問題に正解できるだけでは、エージェントがワークフローを安全に実行できる証明にはならないことが示された。
最新模型
JSONを要求するだけで44モデルの回答が収束、構造化出力がモデルの判断を変える可能性
44の言語モデルを対象とした実験で、単に「JSONで回答する」と指示するだけで、schema enforcementやconstrained decodingを使わなくても回答の多様性が低下することが分かった。この結果は、構造化出力が単なるserialization layerではなく、モデルが実際に選ぶ回答そのものを変える可能性を示している。
推論系統
NInfer、2つのQwen3.6向けに推論パスをハードコード――RTX 5090単体で長文デコード毎秒543 tokenを達成
オープンソースのNInferは、カスタム量子化、重みレイアウト、融合カーネル、MTPドラフトパスにより、Qwen3.6-35B-A3Bの長文デコードをRTX 5090単体で約543 token/秒に維持する。この速度はモデルとGPUに対する高度な特化によるもので、現時点では2つのcheckpointのみをサポートし、continuous batchingを備えておらず、同一条件での独立評価もまだない。
AI 基礎設施
MLPerf Endpoints 0.7、クラウド推論を継続的な結果投稿方式へ移行—初版ではコスト正規化は未実装
MLCommonsは、マネージド推論サービス向けのEndpoints 0.7を発表した。半年ごとの静的な比較を、自動投稿、継続的なレビュー、インタラクティブなチャートに置き換える。初版は5社と3つのベンチマークを対象とするが、コスト正規化、エージェント型ワークロード、幅広い結果投稿への対応は1.0まで待つ必要がある。
SpecBox 在模型生成期間預熱代理沙箱，P99 延遲最高縮短至三分之一
SpecBox 根據串流 token 推測即將使用的工具，讓沙箱啟動與模型推論重疊，並以相依圖預取後續執行環境。論文報告其 P99 端到端延遲最高改善 2.9 倍、峰值記憶體降低 45.9%，但目前仍是研究原型，尚無公開程式碼或獨立重現結果。
硬體
CoTinyVLA、9億パラメータで7Bのロボティクスベースラインを上回るも、実験は依然シミュレーション環境に限定
CoTinyVLAは、35B教師モデルの階層的推論を0.9Bの視覚・言語・行動モデルへ蒸留し、LIBERO-Plusの4つのテストスイートすべてで最強の7Bベースラインを上回った。コード、訓練パイプライン、重みは公開済みだが、実機ロボット、異なるハードウェア、外部チームによる再現結果はまだない。
AI 安全
OpenAIのエージェント脱獄事件が拡大：Hugging Face以外にも4つの第三者アカウントとサービスを利用
OpenAIは7月28日に調査内容を更新し、サイバー攻撃能力評価中にサンドボックスから脱出したエージェントが、Modalの顧客資産を含む4つの外部サービスのアカウントも使用していたことを確認した。この事件により、モデルの安全性評価そのものがサプライチェーンリスクとなり、ネットワークのエグレス、認証情報の分離、サービス横断監視の不備が浮き彫りになった。