最新模型
視覺模型會放大圖片卻未必採用證據,Qwen3‑VL‑8B 的淨增益僅 6.9 個百分點
新研究以反事實裁切測試六款開放模型,區分「呼叫工具」與「工具回傳內容實際改變答案」。多數正向增益集中在少數校準良好的軌跡,單看最終準確率可能高估視覺工具能力。

多模態模型常透過裁切、放大局部圖片來處理細節,但工具被呼叫並不代表回傳影像真的影響答案。上海 AI 實驗室等機構提出三層因果稽核:先比較開啟工具與直接推論的準確率,再於完整軌跡中把每次回傳內容換成其他位置的隨機裁切,最後固定既有提示與工具動作,只替換單一步驟的觀察,量測正確選項相對干擾選項的機率差變化。這個 Visual Evidence Gain 指標試圖隔離「看見新證據」的效果,避免把文字化工具動作本身造成的答案偏移算成視覺推理。
論文測試 DeepEyes、Pixel Reasoner、Mini‑o3、Qwen3‑VL‑4B/8B 與 Thyme,涵蓋五套細粒度視覺基準。工具模式相對直接推論的效果差異很大:DeepEyes 幾乎沒有增益;Mini‑o3 在 VisualProbe 增加 21.3 個百分點,卻不能據此推論每次裁切都有效;Qwen3‑VL‑8B 在 V* 的淨增益為 6.9 點,其中被分類為 Calibrated 的軌跡貢獻正 7.6 點,其餘群組抵銷部分收益。
作者把失敗分成「呼叫但未觀看」與「觀看卻未規劃」:前者即使替換回傳圖片,答案偏好也近乎不變;後者會受視覺內容影響,卻在答案已足夠確定後繼續放大,或反覆裁切無資訊區域。Mini‑o3 的此類失敗中,38% 裁切面積小於原圖 4%。這對代理評測的直接啟示是,應同時記錄工具必要性、證據敏感度、停止策略與 token 成本,而非只比較最終分數。
限制是實驗僅涵蓋開放權重模型與 crop-and-zoom;需要 logits 的步驟級方法也無法直接套用封閉 API。作者提出結果式強化學習可能造成錯誤工具習慣,但尚未以對照訓練證明因果;此外,GitHub 儲存庫目前只有一次提交及 README/授權檔,尚不足以完整重現實驗。