AutoGPT Platform v0.8.3でエージェントの承認フローを調整、サンドボックスコマンドを監督モデルが判定

AutoGPTは10月8日、Platform beta v0.8.3をリリースし、エージェントの実行権限に実質的な変更を加えた。Ask Firstモードでは、これまでshellを呼び出すたびにユーザーの確認が必要だったが、今回からaction supervisorが判断する。これにより、パッケージのインストール、コードのダウンロード、ビルド、テストなど、一般的なサンドボックス作業は自動で続行できる。この変更はリリースノートに記載されており、長時間にわたるコーディングエージェントの処理を必要とするチームは注目したい。リリースノート

主な変更点は、shellのポリシーをASKからJUDGEに切り替えたことだ。監督モデルは引き続き、データの外部送信、リモートでの変更、有料APIの呼び出し、メッセージの送信、そしてユーザーが求めていない永続ファイルの削除や上書きを阻止する想定だ。コマンド名だけを見て見落とすことがないよう、システムは直接実行されるスクリプトを読み取り、サンドボックスの作成後に変更されたshellのログインファイルも確認する。実行対象を特定できない場合や内容を読み取れない場合、呼び出しは保留され、確認を待つ。実装とテストの説明

メンテナーが報告した監督モデルのテストでは、一般的なサンドボックスコマンドの許可回数は59／87から86／87に増加した。一方、外部への操作は90／90回すべてで引き続き確認を要求した。ただし、要求されていない永続ファイルの削除や上書きを阻止できたのは28／30回にとどまり、意味に基づく判定には依然として見落としがある。これらの数値は少数のラベル付き事例によるもので、実運用環境での安全性を保証するものではない。PRには制限も明記されている。makeやnpm script、その他のスクリプトを介した間接実行のプログラムや、確認後、実行前に変更されたファイルは、十分にカバーされていない。テスト結果と制限

技術面での意義は、エージェントの処理を確認で中断する回数を減らしつつ、監督モデルが得る実行時の証拠を増やすことにある。エンジニアリングチームがアップグレードする際は、自社のスクリプト連鎖、データのアップロード、作業ディレクトリのクリーンアップ手順を再テストし、COPILOT_AUTO_MODEの設定と、監督モデルが機能しない場合の挙動を確認すべきだ。また、公式ドキュメントではautogpt_platformディレクトリにPolyform Shieldライセンスが適用されるとしている。採用や再配布にあたっては、適用される条項を確認する必要がある。公式プラットフォームドキュメント