代理工具
EnvACE 讓代理自行扮演工具環境,Qwen3-8B 在三項基準平均達 32.91%
EnvACE 在訓練時不查詢外部環境,而由同一策略交替產生工具動作與想像中的環境回應。它降低建立可執行訓練環境的依賴,但也把模擬錯誤直接吸收到代理參數中。

訓練長流程工具代理通常需要可執行網站、資料庫或服務模擬器,建置與驗證成本會隨任務種類快速增加。EnvACE提出「world rehearsal」:同一個語言模型先以代理角色產生工具呼叫,再切換成環境角色,預測該動作應得到的工具輸出或使用者回應;下一步決策直接讀取這個自產觀察,而非真的執行工具。
兩種角色共用參數,但使用各自的 GRPO 優勢基線,最後由任務成功獎勵共同更新。這項設計與獨立模擬器不同:環境動力學不只提供訓練資料,而是被寫入實際決策策略。推論時,模型也可先平行或循序想像多條軌跡,將結果壓成 rehearsal memory,再對真實環境提交一次動作。
作者以 Qwen3-8B 訓練 470 步,使用 16 張 NVIDIA H20;每個提示取四條 rollout,軌跡最長 30 輪,並由 Qwen3-30B-A3B 擔任評審。EnvACE-8B 在 BFCL V4、τ²-Bench 與 VitaBench 的三項平均為 32.91%,比具完整結果的 EnvScaler-8B 高 0.99 點,但低於部分欄位不完整的 AWM-14B。FinMCP-Bench 的工具 F1 為 46.78%,較 EnvScaler-8B 高 3.10 點;在受控比較中,τ²-Bench 亦由標準 GRPO 的 31.2% 升至 36.7%。
公開實作包含訓練、SGLang、verl 與 Docker 配置,但模型權重仍標示稍後發布。最重要的風險是「自我一致」不等於「符合真實環境」:策略可能同時幻想錯誤回應並學會在錯誤世界中取得高分。研究目前只到 8B,測試時 rehearsal 結果又只有單次執行;後續應檢查真實工具狀態偏移、安全敏感寫入操作,以及想像軌跡增加時錯誤是否累積。