IBM Granite Time Series PatchTST-FM-r2 リリース

IBMは、ゼロショット時系列予測のための汎用基盤モデルであるGranite Time Series PatchTST-FM-r2をリリースしました。このモデルにより、ユーザーは需要、価格、エネルギー負荷、テレメトリなどの予測を、データセットごとに個別のモデルをトレーニングすることなく生成できるようになります。

最先端のゼロショット性能

PatchTST-FM-r2は、2026年9月8日時点のGIFT-Evalリーダーボードにおいて、許容的で商用利用に適したライセンスの下でリリースされた再現可能なモデルの中で、最も高い性能を持つゼロショットモデルです。CRPS（Continuous Ranked Probability Score）およびMASE（Mean Absolute Scaled Error）の両方において、再現可能なゼロショットモデルの中で総合2位にランクされています。

「事前学習済み」モデル（GIFT-Evalのトレーニングデータが事前学習コーパスに含まれることが許可されているモデル）と比較しても、PatchTST-FM-r2は非常に競争力があり、CRPSで3位、MASEで4位にランクされています。これは、Chronos-2、Timer-S1、およびTotoのバリエーションを含む、いくつかのより大規模な事前学習済みモデルを凌駕しています。

アーキテクチャの強化

PatchTST-FM-r2は、先行モデルであるPatchTST-FM-r1のアーキテクチャを進化させ、長期および短期の時系列関係をより適切に捉えるように設計されています。

Conformerベースのバックボーン

このモデルは、標準的なtransformerレイヤーをconformerブロックに置き換えています。これらのブロックは、マルチヘッド自己注意（multi-head self-attention）と時間的畳み込み（temporal convolution）レイヤーを組み合わせ、2つの補完的な推論メカニズムを提供します：

  • Self-attention: パッチ間の長距離の関係をモデル化します。
  • Convolution: 局所的な時間構造に対する帰納バイアスを提供し、短期的な相互作用を捉えます。

これを最適化するために、conformerブロックは、{5, 5, 3, 3}の繰り返しパターンで、3と5の交互の畳み込みカーネルサイズを使用します。これにより、自己注意メカニズムが、標準的なtransformerのように対角線付近に集中するのではなく、より広範な長距離の関係に焦点を当てることができるようになります。

精緻化されたパッチングと安定性

予測精度を向上させ、パッチの境界を滑らかにするために、モデルは以下を実装しています：

  • 50% overlapping patches（50%の重なりを持つパッチ）をHamming-window重み付けで適用。
  • Overlap-and-add forecasting（オーバーラップ・アンド・アド予測）。
  • 深さの増加: アーキテクチャは20から30ブロックに拡張されました。
  • Normalization: 安定性を向上させるために追加されました。

モデルの仕様と機能

PatchTST-FM-r2は、約385Mのパラメータを持つモデルであり、以下の技術的機能を有しています：

  • Context Length: 最大8,192ステップをサポート。
  • Probabilistic Forecasting: 特殊な予測ヘッドを介して99個の分位点を予測し、点予測と不確実性区間を両方提供します。
  • Flexible Forecast Lengths: 将来の予測に対して可変の長さをサポート。
  • Missing Value Support: 欠損値の補完（imputation）をサポート。

トレーニングデータと透明性

IBMは、エンタープライズユーザーのガバナンスとライセンス審査を支援するために、文書化された事前学習コーパスを提供しています。トレーニングデータは、主に以下の4つのソースから構成されています：

  1. GiftEvalPretrainからの選択されたデータセット。
  2. KernelSynthに基づいたカスタム合成データ（修正された周期的なカーネルと限定的な拡張を使用）。
  3. TSMixupコーパス（GIFT-Eval評価セット以外のデータセットに限定）。
  4. 約500,000の長さ4,096の合成CauKerシーケンス。

ライセンスと可用性

Granite Time Series PatchTST-FM-r2は、Apache 2.0およびOpenMDW 1.0の下でデュアルライセンスされており、ユーザーはニーズに最適なライセンスを選択できます。両方のライセンスは、モデルの使用、修正、および配布に関する許容的な権利を提供します。

モデルの重み、アーキテクチャ、推論パイプライン、およびベンチマーク結果を再現するためのコードは、Hugging Face Hubおよびgranite-tsfm GitHubリポジトリから入手可能です。実装はPatchTST-FM-r1のチェックポイントと後方互換性があります。

本番環境への統合

単独での使用に加えて、IBMとConfluentは、Granite Time SeriesモデルをConfluent CloudのEarly Accessプログラムに統合しました。これにより、Confluent Cloud内でApache Flinkを使用して基盤モデルの推論論理を直接実行することができ、データを別のML環境へ移動させることなく、ライブデータストリーム上でリアルタイムの予測と異常検知を可能なにします。

Sources