为什么时间序列预测难如登天？
The unreasonable difficulty of time series forecasting
最近我一直在琢磨，为什么时间序列预测比普通的机器学习任务难那么多。我跑了一堆模型，从简单的统计方法到 Chronos 这样的零样本基础模型，再到让 Claude Opus 这种 LLM 直接续写数字序列。结果发现，在季节性强的数据上，简单的 Seasonal-Naive 和基础模型完胜，而复杂的深度学习模型往往预测方向完全错误。核心原因在于时间序列数据并非独立同分布，它来自单一的数据生成过程，导致信噪比低、有效样本少且分布漂移严重。即便过程具备平稳性和遍历性，也不代表就能被预测，比如白噪声。
"时间序列数据来自数据生成过程而非数据生成分布，这意味着数据序列是整个路径上的联合概率分布，而非独立的同分布数据点。"
HN 评论区
- Chaos theory 中的 Lyapunov time 设定了预测上限，金融市场可能因 Lyapunov time 极短而导致长期预测在数学上不可行。
- 金融市场本质上是反身性的，预测模型本身会改变市场动态，一旦某种模式被广泛利用，该模式就会消失，这与自然现象截然不同。
- 时间序列预测的核心难点在于非平稳性，即未来并不像过去，寻找所谓的 stationary core 往往只是假设某些 stylized fact 会持续成立。
- 许多时间序列是事件驱动的，单纯依赖历史数据无法预测如世界杯或地缘政治冲突等外部冲击，必须引入 exogenous features 或因果叙事。
- 在服务器运维等场景中，分布偏移（distribution shifts）同样棘手，例如世界杯导致的流量骤降缺乏季节性规律，使得传统预测工具失效。