AutoGPT 0.9.0、外部操作に承認レベルを導入　一部の操作を監督モデルが判定

AutoGPTは10月23日、autogpt-platform-beta-v0.9.0を公開し、ツール操作の影響度の宣言と新しい承認レベルを導入した。この変更により、Autoモードでは一部の外部操作を監督モデルに判定させられる。一方、メール送信、支払い、削除などの操作は、事前に確認する既定の動作を維持する。これにより、エージェントが外部サービスと連携する際の実行フローが直接変わる。リリースノート

今回の変更は、プラットフォームの基本的な実行単位であるblockに関わる。公式ドキュメントによると、blockをつなげてエージェントの動作を記述するワークフローを構成できる。またAutoPilotでは、完全なワークフローを作成せずに、研究、APIの呼び出し、プログラムの実行など、対応するblockを直接実行できる。そのため、同じ承認の仕組みで、会話中の単発のツール操作と複数ステップのエージェント処理の両方をカバーする必要がある。Block開発ドキュメント、AutoPilotドキュメント

マージ時の説明によると、従来のAutoモードでは外部操作はすべて確認の対象で、影響度が宣言されていない読み取り専用ツールでさえ、実行を止められることがあった。新版ではEXTERNAL_JUDGEDが追加され、ラベル付け、下書きの作成、記録の追加などの操作を監督モデルの判断に委ねられる。ワークフロー全体には、含まれるステップのうち最も高いリスクに応じた承認レベルが適用される。これは、プラットフォーム外に接続するかどうかだけで確認の要否を決めるのではなく、操作の意味を実行時のゲートに組み込む変更だ。技術的な変更

ただし、監督モデルが操作を許可しても、すべてのステップが実行されるわけではない。一部の不可逆なblockは、従来の人による確認の仕組みによって引き続き保留される。メンテナーによると、判定ルールは53件の合成ケースでしかテストされていない。また、Haikuのフォールバックモデルは「誤った相手にプライベートメッセージを送る」ケースで3回実行され、そのうち2回、誤って許可した。これらの結果から、実際のトラフィックにおけるブロックの信頼性を推定することはできない。既知の制限

導入チームは次に、実際のツールパラメーターを使ってテストを再現し、特に受信者、データの外部送信、既存の許可ルールを確認する必要がある。また、直接呼び出し、ワークフロー、スケジュール実行それぞれで承認結果を検証したい。確認回数を減らす効果は、操作の分類と監督モデルの判定が、チームの権限の境界に合っているかどうかにかかっている。