ホームへ戻る

時間序列基礎模型

TimesFM-3、ネイティブな多変量ゼロショット予測に対応する一方、重みは商用・本番利用を制限

Google Researchの3億3,000万パラメータのTimesFM-3は、1回のフォワードパスで複数の時系列を共同予測し、過去共変量と既知の将来共変量も取り込める。コードはApache 2.0だが、新版の重みには別途非商用ライセンスが適用されるため、本番デプロイでは旧版と同じ前提を踏襲できない。

Simon Bening · Public domain · Image source
zh-Hant

Google Researchは8月31日、従来は主に単変量向けだった汎用時系列モデルをネイティブな多変量予測器へ拡張したTimesFM-3を公開した。モデルは3億3,000万パラメータを備え、実データ、合成データ、拡張データからなる1兆超の時点データで事前学習されている。入力には、複数の予測対象、過去の値のみを持つ共変量、天気予報や販促スケジュールなどの既知の将来シグナルを同時に含めることができ、データセットごとに再度ファインチューニングする必要はない。

モデルはまず、各系列を32タイムステップのpatchに分割し、系列ごとに正規化する。Transformer内部ではデータを「時間 × 変量」の2次元グリッドに配置する。因果的時間アテンションは同一系列の過去のみを参照し、完全変量アテンションは同じ時間位置にある異なる系列間で情報を交換する。両者を交互に積み重ねることで、時間的依存関係と系列間の関係を分離する。既知の将来共変量については、tokenに後続のpatchを連結し、予測対象の正解を漏洩させることなくスケジュール情報を利用できるようにしている。

もう一つの変更点は、非自己回帰デコーディングである。TimesFM-3はContiguous Patch Maskingを用いて観測データの後ろにマスク位置を追加し、予測区間全体を一度に生成する。patchごとに逐次生成する必要がなくなるため、理論上はレイテンシーと誤差の累積を抑えられる。各予測対象の各タイムステップについて、第10パーセンタイルから第90パーセンタイルまでの9つの分位点を出力し、点推定に加えて不確実性も表現する。

Googleは、TimesFM-3がGIFT-Eval、fev-bench、TIMEの3つのベンチマークで首位に立ち、多変量モードは同モデルの単変量設定も上回ったとしている。ただし、数値は依然として主に開発チームによる報告であり、事前学習データには公開時系列も含まれている。実務利用者は、自社データの時間分割、分布シフト、共変量の利用可能性に基づいて改めてバックテストすべきだ。さらに重要なのは、リポジトリのコードはApache 2.0である一方、TimesFM-3の重みには独立した非商用ライセンスが適用され、商用利用と本番環境での利用が明示的に禁止されている点だ。Hugging Faceにも、現時点ではホスト型推論プロバイダーがない。BigQueryとの統合は数週間以内に提供予定とされており、公開時にはライセンス、サービスクォータ、結果がローカル版と整合するかを確認する必要がある。

出典

  1. TimesFM-3: A zero-shot foundation model for multivariate forecasting
  2. google-research/timesfm
  3. google/timesfm-3.0-pytorch