全面超越Transformer！清华蚂蚁推出纯MLP架构，长短程时序预测大幅提升

AIGC动态欢迎阅读

原标题：全面超越Transformer！清华蚂蚁推出纯MLP架构，长短程时序预测大幅提升
关键字：模型,时序,尺度,数据,时间
文章来源：量子位
内容字数：0字

内容摘要：

蔚明 投稿自 凹非寺量子位 | 公众号 QbitAITransformer很强，Transformer很好，但Transformer在处理时序数据时存在一定的局限性。
如计算复杂度高、对长序列数据处理不够高效等问题。
而在数据驱动的时代，时序预测成为许多领域中不可或缺的一部分。
于是乎，蚂蚁同清华联合推出一种纯MLP架构的模型TimeMixer，在时序预测上的性能和效能两方面全面超越了Transformer模型。
他们结合对时序趋势周期特性的分解以及多尺度混合的设计模式，不仅在长短程预测性能上大幅提升，而且基于纯MLP架构实现了接近于线性模型的极高效率。
来康康是如何做到的？
纯MLP架构超越TransformerTimeMixer模型采用了一个多尺度混合架构，旨在解决时间序列预测中的复杂时间变化问题。
该模型主要采用全MLP（多层感知机）架构，由过去可分解混合Past Decomposable Mixing (PDM) 和未来多预测器混合Future Multipredictor Mixing (FMM) 两大块构成，能够有效利用多尺度序列信息。
其中PDM模块，负责提取过去的信息并

原文链接：全面超越Transformer！清华蚂蚁推出纯MLP架构，长短程时序预测大幅提升

联系作者

文章来源：量子位
作者微信：QbitAI
作者简介：追踪人工智能新趋势，关注科技行业新突破