ここ数年、時系列の世界にも「基盤モデル（foundation model）」の波が押し寄せています。GoogleのTimesFM、AmazonのChronos、SalesforceのMoirai——巨大なデータで事前学習し、「初見のデータをゼロショットで予測できる」とうたうモデルが次々と登場しました。NLPや画像でGPTやCLIPが起こした革命が、ついに時系列でも起きるのか、と。
でも、ここで一歩立ち止まって、健全な懐疑を向けてみたいのです。
時系列基盤モデルは、本当に効くのか？ 派手なデモやリーダーボードの数字の裏で、「実は単純な手法に負けている」「LLM部分は飾りで、抜いても性能が変わらない」「ゼロショットの好成績は評価データの混入が原因」——そんな指摘が、トップ会議の論文として次々に出ています。
この記事は、個々のモデルのアーキテクチャを並べるカタログ的なサーベイではありません（それは別記事に譲ります）。代わりに、この分野で本当に起きている4つの論争——LLMは役立つのか、Transformerは効くのか、ゼロショットは単純法に勝つのか、評価は信頼できるのか——に正面から向き合います。なぜこれを学ぶのか。それは、実務でTSFMを採用するか決める前に、幻想と現実を分ける目を持つためです。話題のモデルに飛びつく前に、自分のデータで本当に得をするのかを見極められるようになります。
本記事の内容
- 時系列に事前学習モデルを持ち込む3つの流派の整理
- 「LLMは時系列予測に本当に役立つのか」論争（NeurIPS 2024）
- 「単純な線形がTransformerに勝つ」DLinear論争と自前の追試
- ゼロショットは単純ベースラインに勝てるのか
- 離散トークン化 vs 連続パッチ、MoEによるスケーリング
- 評価データのリーク問題と、それに立ち向かうベンチマーク GIFT-Eval
前提知識
この記事は「論争と評価」に焦点を当てます。各モデルのアーキテクチャの詳細や全体像は、以下の記事で先に押さえておくと、本記事の議論がより深く理解できます。
- 時系列基盤モデルの全体像 — PatchTST・Informer・TimesFM・Chronosを体系的に解説
- PatchTST — パッチ化とチャネル独立性
- Time-MoE — 24億パラメータのMoE時系列基盤モデル
4つの論争という地図
まず全体像です。時系列基盤モデルをめぐっては、大きく4つの問いが繰り返し議論されています。
この4つはどれも「基盤モデルは素晴らしい」という素朴な期待に冷や水を浴びせる方向の問いです。誤解しないでほしいのは、これは「基盤モデルはダメだ」という話ではないこと。過剰な期待を剥がして、本当に効く場所を見極めようという、より成熟した問いかけです。順番に見ていきましょう。その前に、そもそもどんなアプローチが「基盤モデル」を名乗っているのかを整理します。
時系列に事前学習を持ち込む3つの流派
「時系列基盤モデル」とひとくくりにされますが、中身は大きく3つの流派に分かれます。
- 既存のLLMを流用する：すでにテキストで訓練されたGPTなどを、時系列に転用する。GPT-2を凍結して入出力層だけ学習するGPT4TS（One Fits All, NeurIPS 2023）や、時系列をテキストの「原型」に写像して投入するTime-LLM（ICLR 2024）が代表です。
- 時系列専用にゼロから事前学習する：大量の時系列だけでモデルを一から作る。値を連続のままパッチに切るTimesFM・Moirai・PatchTST系と、値を離散トークンに丸めるChronos系に分かれます。
- スケールで押す：パラメータとデータを巨大化する。MoE（Mixture of Experts）で24億パラメータに達したTime-MoE（ICLR 2025）や、超大規模データで学習したSundialなどです。
この分類を頭に置くと、論争の構図が見えやすくなります。まず一番衝撃的だった論争——「①の流派、つまりLLMの流用は本当に意味があるのか」から始めましょう。
論争①：LLMは時系列予測に本当に役立つのか
GPT4TSやTime-LLMは「強力なLLMの知識を時系列に転用できる」とうたい、大きな注目を集めました。ところが2024年、NeurIPSで冷や水を浴びせる論文が出ます。Tanらの「Are Language Models Actually Useful for Time Series Forecasting?（言語モデルは時系列予測に本当に役立つのか？）」です。
彼らは代表的なLLMベース予測手法に対して、容赦ないアブレーションを行いました。「LLM部分を丸ごと取り除く」「LLMを単なる基本的なAttention層に置き換える」——常識的には性能が落ちるはずです。ところが結果は衝撃的でした。
LLMを抜いても、予測誤差はほとんど変わらなかったのです（多くの場合、むしろわずかに改善しました）。一方で、巨大なLLMを動かすための計算コストだけは数倍に膨らんでいました。論文の結論は手厳しく、「事前学習済みLLMは、ゼロから訓練したモデルと同等の性能しか出さず、時系列の系列的な依存関係を表現しておらず、少数ショット設定でも役に立たない」というものでした。彼らがLLMの代わりに試した単純なパッチ＋Attention構造が、同等の性能を出してしまった、と。
※上の図は、論文が報告した「性能はほぼ不変・コストは激減」という定性的な傾向を表す概念図です（具体的な数値はデータセットに依存します）。
これは「①既存LLMを流用する」流派への強烈な批判です。少なくとも素朴な予測タスクでは、LLMの言語知識が時系列にうまく転用されている証拠は乏しい。では、LLMを使わない「時系列専用のTransformer」なら効くのでしょうか。ここで第二の、もっと根深い論争が出てきます。
論争②：そもそもTransformerは時系列に効くのか
時系列基盤モデルの多くはTransformerをバックボーンにしています。でも、その大前提が2023年のAAAIで揺さぶられました。Zengらの「Are Transformers Effective for Time Series Forecasting?（Transformerは時系列予測に有効か？）」です。
彼らが提案したDLinearは、拍子抜けするほど単純なモデルです。入力系列を「移動平均によるトレンド成分」と「残りの季節成分」に分解し、それぞれをただ1枚の線形層で未来へ写像して足し合わせるだけ。Attentionも深い非線形もありません。ところがこのDLinearが、9つの実データセットで当時の洗練されたTransformerベース予測モデルをことごとく上回ったのです。しかも大差で。
本当にそんなことが起きるのか。自分で確かめてみましょう。トレンド＋2つの季節周期＋ノイズからなる合成データで、過去96ステップから未来24ステップを予測するタスクを作り、(a) 季節ナイーブ（24ステップ前と同じ値を繰り返す）、(b) DLinear、(c) 小さなTransformer、の3つを比べます。
結果は明快でした。テストMSEはDLinearが0.109、季節ナイーブが0.328、そして小さなTransformerは0.464。単純な線形モデルが、Transformerに3倍以上の差をつけて圧勝しています。強い季節構造と線形トレンドを持つデータでは、Transformerの表現力はむしろ過剰で、限られたデータでは線形モデルに勝てないのです。予測の中身を見ても、DLinearはきれいに季節パターンを追えています。
もちろん、これは「Transformerは常にダメ」という話ではありません。大規模で多様なデータ、長い文脈、複雑な非線形性がある状況ではTransformerの強みが出ます。しかし「とりあえず巨大なTransformerを使えば勝てる」わけではないこと、そして評価には必ず単純なベースラインを並べるべきだということを、DLinear論争は突きつけました。この教訓は、基盤モデルのゼロショット性能を評価するときにもそのまま効いてきます。
論争③：ゼロショットは単純ベースラインに勝てるのか
時系列基盤モデルの最大の売りは「ゼロショット」——一切の追加学習なしに、初見のデータをそこそこ予測できることです。これは確かに魅力的です。系列ごとにモデルを訓練する手間が消え、データが乏しい状況やコールドスタートでも即座に予測が出せます。
ただし、ここでもDLinearの教訓が効きます。「ゼロショットで予測できた」ことと「単純ベースラインに勝った」ことは別物です。季節ナイーブやDLinearのような軽量な手法は、明確な周期や線形トレンドを持つデータでは驚くほど善戦します。基盤モデルが、これらを安定して上回るとは限りません。
典型的に報告される傾向はこの図のようなものです。素直なデータや明確な周期を持つデータでは、基盤モデルと単純ベースラインの差は小さい。基盤モデルが本領を発揮するのは、学習データが乏しい・分布が特殊・あるいは事前学習データに近い性質を持つような、単純ベースラインが苦戦する領域です。つまり「いつでも勝てる魔法」ではなく、「効く土俵を選ぶ道具」と捉えるのが正確です。
では、基盤モデルが本当に強い土俵——大規模化はどこまで効くのでしょうか。次に「スケールで押す」流派と、そこで使われる工夫を見ます。
スケーリングとトークン化：基盤モデルを大きくする工夫
基盤モデルらしさは「スケール」にあります。時系列でもこの方向が進んでいて、代表がTime-MoE（ICLR 2025 Spotlight）です。Time-MoEは時系列基盤モデルを初めて24億パラメータまで拡大しました。鍵はMoE（Mixture of Experts）で、予測ごとに専門家ネットワークの一部だけを起動することで、容量を保ったまま計算量を抑えます。学習には9ドメイン・3000億点超の「Time-300B」が使われました。MoEは「巨大な総容量を持ちつつ、1回の推論では一部の専門家しか使わない」仕組みなので、パラメータ数を膨らませても推論コストが線形には増えません。これが時系列でもスケール則を追える理由です。
スケールと並んで設計を二分するのが「連続値をどうトークン化するか」です。Transformerは離散トークンの列を食べる装置なので、連続値の時系列をどう「言葉」に変えるかが問われます。
2つの流儀があります。離散トークン化（Chronos）は、値を絶対平均でスケールしてから離散ビンに丸め、各ビンを「単語」として扱います。こうすると言語モデルの仕組み（クロスエントロピー損失、確率的なサンプリング）をそのまま流用でき、予測の不確かさも自然に出せます。一方の連続パッチ化（TimesFM・PatchTST・Moirai）は、値を連続のまま小区間（パッチ）に切ってトークン扱いします。丸め誤差がなく、細かい値の違いを保てるのが強みです。離散化は言語モデルの資産を活かせるが情報を丸める、連続パッチは情報を保つが専用設計が要る——どちらが優れるかは決着しておらず、活発な論争領域です。
スケールも工夫も進んでいますが、ここで最後の、そして最も厄介な論争に行き着きます。そもそも、これらの好成績は信用できるのかという問題です。
論争④：評価は信頼できるのか — リーク問題
ゼロショット性能を主張するとき、絶対に避けねばならない落とし穴があります。評価データが事前学習データに混入していること（データリーク）です。
基盤モデルは「インターネット中の時系列」のような巨大なコーパスで事前学習されます。もしその中に、評価に使うデータセット（あるいはよく似た系列）が紛れ込んでいたら——モデルは「初見のデータを当てた」のではなく、「学習済みのデータを思い出した」だけかもしれません。ゼロショットの好成績が、実は記憶の再生だった、という危険です。時系列はドメインが限られ、公開データセットが繰り返し使われるため、この問題は特に深刻です。
この危機に正面から取り組んだのが、SalesforceのGIFT-Eval（2024）です。23のデータセット・7ドメイン・10種の周波数・177百万データ点をカバーし、97の評価設定で統計・深層・基盤モデルの17ベースラインを横断比較できる公開リーダーボードを提供します。
GIFT-Evalの肝は、評価データと重複しない「非リークの事前学習データセット（約230億点）」を別途用意したことです。これにより、「評価セットを学習していない状態」での真のゼロショット性能を、公平に測れるようにしました。基盤モデルの評価は、こうしたリーク対策の整ったベンチマークの上でこそ意味を持ちます。リーダーボードの一位という数字を鵜呑みにせず、「どんなデータで、どう測ったのか」を確かめる姿勢が欠かせません。
2025-2026の潮流：単純さへの揺り戻しと多タスク化
最近の研究は、ここまでの論争を裏づける方向に進んでいます。一つは「単純さへの揺り戻し」です。2025-2026年には、強力に作り込んだ汎用Transformerを丁寧に評価し直す研究や、「より少ない設計でより良い性能」をうたうモデル（Moirai 2.0 の “When Less Is More” など）が現れました。基盤モデルの設計が成熟するにつれ、「巨大さ・複雑さそのものが価値ではない」「強い単純ベースラインを正しく評価することが先」という認識が共有されつつあります。これはDLinear論争の精神が、基盤モデル時代にも生き続けていることを示しています。
もう一つの流れが多タスク統合です。初期の基盤モデルは予測（forecasting）に特化していましたが、MOMENTやUniTSのように、1つの事前学習モデルで予測・分類・異常検知・欠損補完までこなそうとするモデルが出てきました。これは「時系列の汎用表現を一度学べば、下流タスクに使い回せる」という基盤モデル本来の理念に、より忠実な方向です。予測単体ではLLM不要論やDLinear論争に押されぎみでも、「多様なタスクを1モデルで」という統合の価値は、単純ベースラインには代えがたい強みになりえます。論争はモデルを否定するのではなく、その本当の価値がどこにあるかを浮き彫りにしているのです。
ここまでの4つの論争と最新潮流を踏まえると、「結局いつ使えばいいのか」という実務的な問いに答えられます。
結局、いつ時系列基盤モデルを使うべきか
4つの論争から見えてくる指針は、拍子抜けするほど健全なものです。
- 基盤モデルが活きる場面：学習データが乏しい（少数サンプルやコールドスタート）、多数の系列に素早く横展開したい、予測の手間を最小化したい（ゼロショットで即運用）。
- 単純な手法で十分な場面：十分な学習データがある単一タスク、係数や精度を厳密に詰めたい、強い季節構造・線形トレンドがある（DLinearで足りる）。
そして最も大事な実務の鉄則は、「まず単純ベースライン（季節ナイーブ・DLinear）で地力を測り、基盤モデルがそれを本当に超えるか確かめる」こと。DLinear論争もLLM論争も、この一手を怠ると幻想に騙される、と教えています。
まとめ
時系列基盤モデルの「論争と評価」を俯瞰してきました。要点は次の通りです。
- LLM有用性論争：LLMを抜いても予測性能はほぼ不変で、コストだけ激減した（Tan+ NeurIPS 2024）。素朴な予測でLLMの知識が活きる証拠は乏しい。
- Transformer有効性論争：単純な線形DLinearが洗練されたTransformerを上回る（Zeng+ AAAI 2023）。自前実験でもDLinear(MSE 0.109)がTransformer(0.464)に圧勝した。
- ゼロショット：単純ベースラインに常勝するわけではなく、データが乏しい・特殊な土俵でこそ活きる。
- スケールと工夫：MoEで24億パラメータ級へ（Time-MoE）、トークン化は離散（Chronos）と連続パッチ（TimesFM）が並立。
- 評価の信頼性：事前学習データのリークがゼロショット評価を汚染しうる。GIFT-Evalは非リーク事前学習データでこれに対処する。
基盤モデルは万能の魔法ではありません。過剰な期待を剥がし、単純ベースラインと公平なベンチマークの上で「本当に効くか」を確かめる——この姿勢こそが、時系列基盤モデル時代を賢く生き抜く鍵です。
次に読むと理解が深まる記事:
- 時系列基盤モデルの全体像 — PatchTST・Informer・TimesFM・Chronosを体系的に解説
- Time-MoE — 24億パラメータのMoE時系列基盤モデル
- MOMENT — オープンソースのEncoder-only時系列基盤モデル
参考文献：Tan et al., “Are Language Models Actually Useful for Time Series Forecasting?”, NeurIPS 2024 (arXiv:2406.16964) ／ Zeng et al., “Are Transformers Effective for Time Series Forecasting?”, AAAI 2023 ／ Shi et al., “Time-MoE: Billion-Scale Time Series Foundation Models with Mixture of Experts”, ICLR 2025 (arXiv:2409.16040) ／ Ansari et al., “Chronos: Learning the Language of Time Series”, 2024 ／ Aksu et al., “GIFT-Eval: A Benchmark for General Time Series Forecasting Model Evaluation”, 2024 (arXiv:2410.10393)。
