AI 安全
SkillGate、ルールでエージェントスキルを事前選別しLLM入力を77%削減するも、攻撃の約4分の1を見逃す
オープンソースのSkillGateは、エージェントがスキルを読み込む前に530個のルールで疑わしい箇所を特定し、LLMによる判定と隔離に引き渡す。公式ベンチマークでは誤検知率1.13%、再現率76.9%を記録し、低コストなゲートウェイの実現可能性を示したが、サンドボックスや最小権限の代替にはまだならない。
Archive
推論系統
推論 runtime、量化、 serving、KV cache、成本與效能。
AI 安全
最新模型
Shieldstral、モデレーションポリシーをクエリに組み込み、3Bマルチモーダルモデルがテキスト安全性評価で平均F1 84.9%を達成
Shieldstralは、コンテンツモデレーションを自然言語で指定できる二値質問応答として統一し、同一モデルで製品の文脈に応じて判定基準を切り替えられるようにした。論文によると、テキストとマルチモーダルの平均F1はそれぞれ84.9%と83.8%に達したが、モデルの重みと完全な推論パッケージはまだ同時公開されていない。
開發者平台
GitHub Models、7月30日に全面終了へ—推論APIとBYOKエンドポイントも同時に停止
GitHub Modelsは7月30日をもって全サービスを終了し、既存顧客向けのモデルカタログ、Playground、推論API、BYOKエンドポイントはすべて利用できなくなる。Microsoft Foundryへの移行は単なるURL変更ではなく、チームは認証、モデルバージョン、課金、出力互換性を改めて検証する必要がある。
推論系統
NInfer、2つのQwen3.6向けに推論パスをハードコード――RTX 5090単体で長文デコード毎秒543 tokenを達成
オープンソースのNInferは、カスタム量子化、重みレイアウト、融合カーネル、MTPドラフトパスにより、Qwen3.6-35B-A3Bの長文デコードをRTX 5090単体で約543 token/秒に維持する。この速度はモデルとGPUに対する高度な特化によるもので、現時点では2つのcheckpointのみをサポートし、continuous batchingを備えておらず、同一条件での独立評価もまだない。
AI 基礎設施
MLPerf Endpoints 0.7、クラウド推論を継続的な結果投稿方式へ移行—初版ではコスト正規化は未実装
MLCommonsは、マネージド推論サービス向けのEndpoints 0.7を発表した。半年ごとの静的な比較を、自動投稿、継続的なレビュー、インタラクティブなチャートに置き換える。初版は5社と3つのベンチマークを対象とするが、コスト正規化、エージェント型ワークロード、幅広い結果投稿への対応は1.0まで待つ必要がある。
SpecBox 在模型生成期間預熱代理沙箱，P99 延遲最高縮短至三分之一
SpecBox 根據串流 token 推測即將使用的工具，讓沙箱啟動與模型推論重疊，並以相依圖預取後續執行環境。論文報告其 P99 端到端延遲最高改善 2.9 倍、峰值記憶體降低 45.9%，但目前仍是研究原型，尚無公開程式碼或獨立重現結果。
硬體
CoTinyVLA、9億パラメータで7Bのロボティクスベースラインを上回るも、実験は依然シミュレーション環境に限定
CoTinyVLAは、35B教師モデルの階層的推論を0.9Bの視覚・言語・行動モデルへ蒸留し、LIBERO-Plusの4つのテストスイートすべてで最強の7Bベースラインを上回った。コード、訓練パイプライン、重みは公開済みだが、実機ロボット、異なるハードウェア、外部チームによる再現結果はまだない。
代理工具
JarvisHubはキャンバスをマルチモーダルエージェントの共有状態に変えるが、初版には定量評価がまだない
オープンソースのJarvisHubは、型付きノードと接続によって素材、バージョン、依存関係、エージェントの軌跡を保持し、長期にわたる制作作業を線形な会話へ詰め込まずに済むようにする。実行可能な3層アーキテクチャとローカルデプロイ用プログラムを提供しているが、論文に示されているのは現時点では定性的な事例のみで、信頼性や成果物の品質向上はまだ実証されていない。
推論系統
Sol-Attn、online softmax内で注意を動的にスパース化し、動画生成をエンドツーエンドで2倍超高速化
NVIDIAの研究チームは、再学習を必要としないSol-Attnを公開した。注意演算中に重要なブロックを選択し、スキップしたブロックの寄与を近似的に補完する。公式評価では複数の動画モデルで約1.9～2.34倍のエンドツーエンド高速化を確認したが、品質とハードウェア間の汎化性能については、なお独立した検証が必要だ。
最新模型
Claude Opus 5、調整可能な推論強度でコストと性能を両立、クラウド版は100万tokenの入力に対応
AnthropicはClaude Opus 5を発表し、開発者がeffort設定によって推論品質、token使用量、レイテンシーのバランスを調整できるようにした。Google CloudとAWSではすでにマネージド版が提供されているが、「Fable 5に迫る性能を半分のコストで実現」という主張は、現時点では主にベンダーによるテストとタスク単位のコスト試算に基づいている。
推論系統
NVIDIA Dynamo、Kimi K3向けマルチノード展開レシピを提供——100万tokenの推論には少なくとも16基のGB200／GB300が必要
Dynamoの実験版がKimi K3のマルチモーダル処理、推論、ツール呼び出しの解析に対応し、集約型およびprefill／decode分離型のKubernetesレシピを公開した。このレシピは2.8T MoEの展開要件をラックトポロジー単位で定量化しているが、現時点では正式なQAを通過しておらず、GB200構成には既知の起動エラーも残っている。
代理工具
Grok 4.5がGitHub Copilotに統合、500Kコンテキストと推論強度をIDE横断で利用可能に
GitHubはGrok 4.5をCopilotのIDE、CLI、クラウドエージェント、デスクトップアプリに順次展開し、最大50万tokenのコンテキスト、テキスト・画像入力、3段階の推論強度を提供する。企業管理者はモデルポリシーを明示的に有効化する必要がある。一方、GitHubが現時点で公表しているのは社内のターミナルタスクに関する所見のみで、比較可能なCopilotの評価結果はまだ示されていない。