返回首頁

AI research

Looped Flows 以局部去雜訊訓練循環推理,ARC‑AGI‑1 測試準確率達 58.8%

新方法把循環網路的每次更新排列成由雜訊走向答案的連續流,使模型不必完整反向傳播所有迭代也能學習跨步狀態。推論時可增加積分步數換取更多計算,並從不同初始雜訊產生多個候選解。

Ldecola · CC BY-SA 4.0 · Image source
zh-Hant

循環式推理模型可重複套用同一組參數,以較少權重換取更多推論計算,但訓練通常只能對一至數個更新步驟反向傳播。梯度在步驟間截斷後,早期狀態未必會學會保存後續真正需要的資訊;單純把迴圈跑得更久,也可能停滯或累積錯誤。

9 月 10 日提交的 Looped Flows 將這個 credit assignment 問題改寫為局部去雜訊。訓練資料先由同一個答案與初始雜訊構成一條時間軌跡,各更新步看到逐漸降低的雜訊,並共享問題條件與 recurrent state。每一步都有自己的去雜訊目標,步驟之間可以停止梯度;因相鄰任務沿著相同軌跡且後者稍容易,狀態仍受到誘因去攜帶下一步可用的計算結果。其基礎 denoiser 建於 Tiny Recursive Model 類架構,而非一般大型自回歸語言模型。

推論階段不再固定重複乾淨輸入,而是把 stateful denoiser 定義的速度場做數值積分,逐步把雜訊輸送至離散答案。更細的時間網格等於增加 test-time compute;更換初始雜訊則可取得不同解,特別適合 N-Queens、圖著色等存在多個合法答案的問題。論文在六項推理基準上比較既有 looped models,報告 ARC‑AGI‑1 測試準確率 58.8%、ARC‑AGI‑2 為 12.2%。

這仍不是可直接套入通用 LLM 的推理替代品。結果集中於可結構化驗證的演算法與抽象推理題,增加積分步數的延遲、穩定性及校準代價也需分開衡量;目前亦缺少獨立重現結果。下一步關鍵是公開完整程式與訓練設定,並驗證局部去雜訊能否擴展到自然語言、長上下文,以及無唯一可驗證答案的任務。

來源

  1. Thinking with Looped Flows
  2. Thinking with Looped Flows — implementation-oriented paper summary