AgentTrajectorySentinel、マイクロ秒単位の時系列監視でエージェントの暴走を阻止、実験でタスク成功率が52％から73％に向上

LLMエージェントは複数ステップのタスクで、ツールを繰り返し呼び出したり、誤った結果に基づいて処理を進めたり、完了前に目標から逸脱したりする可能性がある。各ステップの判定を別の大規模モデルに委ねると、レイテンシーと費用がエージェントをもう一度実行する場合に近づくだけでなく、判定役そのものが誤判定する恐れもある。8月3日に公開されたAgentTrajectorySentinelは、軽量な時系列モデルで実行中の観測可能なシグナルを監視し、アラートをロールバックおよび再試行のフローに接続する方式を採用した。

モニターは各ステップを、セマンティック埋め込み、token log-probabilityの統計値に加え、アクション種別、レイテンシー、出力長、エラーフラグなどのメタデータとして表現する。中核となるのは、正常な軌跡のみで学習したecho-state networkと、CUSUM累積偏差検出器の組み合わせだ。シグナルの各チャネルを個別にスコアリングし、いずれかのチャネルがしきい値を超えるとアラートを発する。厳密に検証できるタスクについては、決定論的チェックも追加されている。例えば、エージェントが実際に受け取ったツール結果から合計額を再計算したり、必要な呼び出しがすべて実行されたことを確認したりすることで、統計的異常だけに全面的に依存することを避ける。

著者は、3種類のエージェントフレームワーク、3つのローカルモデル、Gemini 2.5 Flashを使用し、2,823件の軌跡を収集した。主要モニターは、誤警報率を5％に設定した条件で失敗の71％を検出し、AUROCは0.872だった。予約エージェントをロールバックして再実行する実験では、失敗の45％が修復されたのに対し、ランダム再サンプリングによる対照群では16％にとどまった。全体の成功率は52％から73％へ向上した。1ステップ当たりの処理時間の中央値は約200マイクロ秒で、モデルの状態サイズは約4 MBだった。

制約も同様に重要だ。モニターはデータセットをまたいでも順位付け能力を維持できるが、アラートの基準値をそのまま移植することはできない。再キャリブレーションを行わない場合、AUROCは0.527まで低下した。短い軌跡は、異常が識別可能なパターンを形成する前に終了する可能性もある。また、テキスト内容の誤りは、行動として現れる暴走よりも一般に検出が難しい。したがって、エンジニアリングチームはこれをエージェントの正しさを完全に証明するものではなく、ビジネス上の不変条件、権限制限、少数の高コストな判定モデルと組み合わせる、低コストな第一段階のゲートとして捉えるべきだ。コード、固定された依存関係、データカード、再現用コマンドは公開されているが、現時点の成果は単独著者によるプレプリントに基づいており、独立した追試が待たれる。