代理工具
QuoteBench:多一層 Shell 解析可令相同代理指令成功率暴跌 55.4 至 73.2 點
QuoteBench 固定模型輸出,只改變 Bash 指令的傳輸與再解析路徑,直接量出代理介面造成的故障。結果顯示,格式合法率接近滿分仍可能掩蓋大量 quoting 與 escaping 錯誤。

程式代理產生的 Bash 指令,通常不會由模型直接送入 shell,而會先經 JSON tool call、字串插值、包裝器或另一層解析。QuoteBench 將這段常被忽略的「指令傳輸路徑」獨立成評測變因:56 項單指令任務取自 14 類實際事故,每題不比對文字,而是在隔離容器內驗證最終檔案與程序狀態,因此不同但正確的 quoting 寫法都可通過。
研究先保存模型在原始合約下生成的回覆,再讓完全相同的回覆多經一個刻意未正確 escape 的雙引號解析層。八組同期模型設定的成功率一律下降 55.4 至 73.2 個百分點,證明損失不是模型重新抽樣造成。若提示事先披露這個邊界,六組設定可補回 30.4 至 60.7 點;Qwen3.5-27B 沒有恢復,Gemini 3.1 Flash-Lite 更略為倒退。GPT-5.6-sol 尤其能說明平均分數的欺騙性:表面上的 matched-path 差距只有負 3.6 點,背後其實是負 64.3 點傳輸傷害,被正 60.7 點生成補償抵消。
另一組原生工具測試亦發現,schema adherence 維持 98%至100%,實際正確率卻只有86%至100%;有效 JSON 和正確工具名稱不代表 shell 收到的命令仍保持原意。工程上應把模型、生成合約、序列化方式、解析層、GNU/BSD userland 與最終狀態驗證器一併納入版本化測試。作者也指出修復本身並不新穎:在插值點正確 escape,或改傳暫存腳本,都能消除該效應。限制是核心只有56題、主要因果結論來自八組設定,尚未涵蓋其他 shell、長指令鏈與多輪自我修復。