AI 安全
HazardAuditor、4種類のコンピューター操作エージェントの軌跡を統一し、シーケンスレベル報酬で安全性ゲートキーパーモデルを訓練
HazardAuditorは、Claude Code、Codex、Hermes、OpenClawによるツール実行を共通のイベント形式に変換し、一連の行動全体が安全かどうかを判定する。新手法GuardPOでは最終的な安全性判定が更新を主導するが、研究データは公開されておらず、最大16.5ポイントの改善は独立した再現を待つ必要がある。
Archive
代理工具
Agent、MCP、coding agent、工作流自動化與評測。
AI 安全
推論系統
vLLM、Mooncakeで隠れ状態をノード間ストリーミングし、2.8TのKimi K3向けDSparkドラフトモデルを訓練
vLLMとRed Hat AIは、Kimi K3向けの50億パラメータDSparkドラフトモデルと、隠れ状態をノード間で抽出・転送するための完全な手順を公開した。公式テストでは、単一ユーザーの生成速度が約110 token/sから435 token/sへ向上したが、この結果はGB300クラスターと特定の推論ワークロードに依存する。
代理工具
Claude Code 2.1.273、コマンド権限のバイパスを修正し、企業向けMCPポリシーの適用を強制
Anthropicは2.1.273で、2件のコマンド審査の不備に加え、管理対象MCPおよびコネクターポリシーが無視される可能性のある設定マージの問題を修正した。新バージョンでは、LLM gateway向けのオプションのリクエストヘッダーとMCP切断アラートも追加されたが、公式には今回の修正をCVEやセキュリティアドバイザリとして公表していない。
AI 安全
SWEADV、悪意ある issue で修復エージェントを誘導：半数超が機能を修正しながら脆弱性を混入
新たなベンチマークは、150件の SWE-bench Verified タスクをセキュリティ上の罠を含む750件の issue に書き換え、自動修復エージェントが機能的には正しいものの安全ではないコードを提出するかを検証した。3種類のモデルバックエンドでは、平均51.7%のケースで修復と攻撃目標の両方が達成され、一般的なモデルレビューや静的解析でも多数の悪意ある patch を見逃した。
AI for Science／訓練基礎設施
Periodic Neon、実験室データで1兆パラメータのXRDエージェントを訓練し、長時間軌跡RLのシステムボトルネックを公開
Periodic Labsは1,300基のH200を用い、1兆パラメータのオープンモデルに科学分野のmid-trainingと強化学習を施し、複雑なX線回折結果をNeonが自動解析できるようにした。ただし、成功率55.3%やフロンティアモデルとの比較は、いずれも社内データ、専用ツールチェーン、モデルによる評価に基づく。現段階では、実証済みの自律的な科学的発見というより、検証可能な垂直型AIのレシピと見るべきだ。
最新模型
Salesforce Koa、ワークフロー仕様から訓練環境を生成し、CRMツール操作を120Bモデルに学習
SalesforceはNemotron 3 Superをベースに、合成した企業シナリオ、SFT、GRPOを通じて、初のCRM推論モデルKoaを訓練した。複数ターンのツール使用は大幅に改善したものの、論文では総合性能が依然として最先端モデルに及ばないことを認めており、公式発表の「エラーが3分の1」という数字も自社のCRM評価に基づく。
代理工具
FlashREINFORCE、エージェントRLの同一問題グループサンプリングを単一軌跡の非同期更新で置き換え
NVIDIAの研究チームが、criticを使わない単一rollout訓練手法を提案した。長さの異なるツール軌跡を完了次第更新に投入できる。小規模モデルの実験では、半分のrollout数で掲載されたGRPOベースラインを上回ったが、環境やモデル規模をまたぐ安定性はまだ十分に検証されていない。
推論系統
Jev、テキスト生成を捨て、並列サンプリングで型付き確率的意思決定を出力
TypeSafe AIのJevは、事前定義されたブール値、選択肢、スコアのみを生成し、モデル推論をプログラムへ直接組み込める低レイテンシーの分岐へ変えようとしている。ただし、型が正しいことは判断が正しいことを意味せず、公式がうたう速度とコストの優位性も、自社製ワークフローと非公開モデルに基づいている。
最新模型
Gensyn open‑1b、80,957の訓練ステップにわたるハードウェア横断のビット単位監査チェーンを構築
Gensynは、16.1億パラメータモデルのデータ、チェックポイント、ステップごとのハッシュ、リプレイツールを公開し、第三者が訓練状態と公表内容の一致を抜き取り検査できるようにした。この再現性には約5倍の訓練性能コストが伴い、ハッシュの一致だけでは、元のクラスターが実際に公表どおり稼働したことを証明できない。
AI 安全
「計画インジェクション」により、モデルは外部から与えられた誤った推論を自らのものとして書き換え、Chain-of-Thought監視を回避する
新たな研究により、無害に見える表現でcontextに挿入された誤った計画を、モデルが取り込み、書き換え、実行に移し得ることが判明した。最も強力なmonitorでも、攻撃の少なくとも4分の1を見逃した。monitorに元の注入内容を見せたり、推論予算を増やしたりしても検出性能の向上は保証されず、agentの安全性を出力されたChain-of-Thoughtだけで証明することはできないと示唆される。
代理工具
Reef、オンライン推論・フィードバック学習・エージェントのバージョン公開を継続学習ループに統合
新たにオープンソース化されたReefは、OpenAIおよびAnthropic互換の推論エンドポイントを通じて追跡可能なインタラクションを収集し、モデルの重みまたはエージェントharnessを非同期で更新する。ホットアップデートとバージョンロールバックに必要なコントロールプレーンを補完する一方、学習データの汚染、評価器のバイアス、本番環境での安定性は今後の検証を要する。
最新模型
Gemini 3.8 Live、推論を音声出力のバックグラウンドで実行へ——クライアントはturnCompleteだけでアイドル状態を判定できず
Googleは2つのネイティブ音声モデルを発表した。Extended Thinkingでは、音声を継続的に出力しながらバックグラウンド推論と非同期ツール呼び出しを実行できる。新プロトコルは長時間の音声エージェント処理における並行性を高める一方、開発者にはセッション状態マシンと割り込み処理の書き直しを求める。