突破传统：简单滤波器如何提升时间序列预测的精准度

大道至简，滤波器也有大用处

原标题：无需Transformer，简单滤波器即可提高时间序列预测精度 | NeurIPS 2024
文章来源：量子位
内容字数：4344字

FilterNet：一种新颖的时间序列预测模型

在时间序列预测领域，准确性对于能源、气象和医疗等行业至关重要。最近，由国家信息中心、牛津大学及国内多所高校的团队提出了一种名为FilterNet的模型，该模型不再依赖复杂的Transformer结构，而是通过简单的滤波器来提升预测精度。FilterNet已被NeurIPS 2024接收，展现了其在时间序列预测中的潜力。

1. 研究动机

现有的模型架构面临着频段信息利用的瓶颈。时间序列信号通常由不同频段的信号组成，团队通过模拟实验发现，现有的iTransformer模型在捕捉频谱信息方面表现不佳。因此，基于传统信号处理中的滤波特性，研究团队设计了FilterNet，以提高时间序列预测的性能。

2. FilterNet的核心设计

FilterNet的设计极为简单，其主要组件包括：

• 实例归一化： 解决了非平稳时间序列带来的分布偏移问题。
• 频率滤波模块： 该模块包含两种可学习滤波器，Plain Shaping Filter用于信号滤波与时间关系建模，Contextual Shaping Filter用于学习滤波后频率与原始输入信号的依赖关系。
• 前馈神经网络： 该网络将频率滤波模块建模的时间依赖关系与未来数据的关系结合，进行预测与反归一化。

3. 实验结果与性能分析

FilterNet在八个时间序列预测基准数据集上进行了广泛测试，结果显示其在不同场景下均表现优越。具体而言：

• 预测结果： PaiFilter在小数据集上表现更佳，而TexFilter在大数据集上则展现出强竞争力。
• 频率滤波器的可视化： 学习到的滤波器展现出良好的信号处理能力，证明了FilterNet的全频段处理能力。
• 效率分析： FilterNet在训练效率上优于传统的Transformer方法，尽管在单个epoch的训练时间上略逊于DLinear，但整体效果更佳。

4. 结论与展望

FilterNet的提出为时间序列预测提供了一种全新的思路。通过将频率滤波器直接应用于预测任务，研究团队展示了其在效果和效率方面的优越性。希望未来能有更多研究结合信号处理技术与深度学习，进一步提升时间序列建模与预测的精准度。

联系作者

文章来源：量子位
作者微信：
作者简介：追踪人工智能新趋势，关注科技行业新突破