返回首頁

時間序列與檢索增強

TS-RAG 以參考 token 融合歷史序列,六項預測資料集平均 MSE 降至 0.310

百度研究者把 RAG 從文字生成移植到多變量時間序列,以 TCN 檢索相似片段,再用交叉注意力融合。加入通道依賴的版本在六套資料集優於所列基線,但程式尚未公開,採用的傳統基準也已被維護者警告可能失去鑑別力。

猫猫的日记本 · CC BY-SA 3.0 · Image source
zh-Hant

TS-RAG 的核心不是把歷史序列直接接到輸入後面。系統先將每個變量切成固定長度 patch,以額外的可學習參考 token 代表檢索結果;輸入序列透過自注意力建模自身變化,再以交叉注意力讀取相似歷史片段。TS-RAG-CM 進一步建模不同通道間的依賴,適合電力負載、氣象等多變量資料。

檢索器是一個另行訓練的時間卷積網路(TCN),用向量距離尋找相似序列。實驗固定讀取 96 個時間點,分別預測未來 96、192、336 與 720 點,涵蓋 ECL、ETTh1、ETTh2、ETTm1、ETTm2 和 Weather。四種預測長度取平均後,TS-RAG-CM 的 MSE/MAE 為 0.310/0.348;未建模通道依賴的版本為 0.317/0.353,所列 TimeXer 基線則為 0.312/0.349。

消融實驗顯示,TS-RAG-CM 相對直接串接歷史序列,在四種預測長度將 MSE 降低 14.2% 至 18.2%。但檢索更多並非更好:top-1 表現最佳,加入兩條或四條參考通常增加誤差,說明相似片段仍可能帶入衝突模式。TCN 檢索報告耗時 0.004 秒,遠低於動態時間校正的 14.27 秒,但略慢於歐氏距離的 0.002 秒。

結果說明 RAG 的價值可能在「如何融合」而非單純擴大上下文。不過論文沒有提供公開程式、索引建置成本或部署端到端延遲;所有結果也只來自六套常見資料集。Time-Series-Library 維護者已在 2026 年提醒,庫中不少舊基準可能不再足以衡量研究進展。工程團隊下一步應特別檢查滑動視窗的資料洩漏、分布轉移下的錯誤檢索,以及檢索失敗時能否安全退回原始預測器。

來源

  1. TS-RAG: Retrieval Augmented Generation for Time Series Forecasting
  2. Time Series Library:基準維護與過時警告