8/8/6/3的Mamba论文，最终还是被ICLR 2024拒了，网友：悬着的心终于死了

AIGC动态欢迎阅读

原标题：8/8/6/3的Mamba论文，最终还是被ICLR 2024拒了，网友：悬着的心终于死了
关键字：审稿人,论文,模型,作者,序列
文章来源：机器之心
内容字数：6451字

内容摘要：

机器之心报道
编辑：蛋酱几天前，ICLR 2024 的最终接收结果出来了。
大家应该还记得，Mamba 被 ICLR 2024 大会 Decision Pending（待定）的消息在 1 月份引发过一波社区热议。
当时，多位领域内的研究者分析，Decision Pending 的意思是延迟决定，虽然也可能会被拒，但这篇论文得到了 8/8/6/3 的打分，按理说不至于真被拒。论文审稿页面：https://openreview.net/forum?id=AL1fq05o7H
如今，Decision 已出，Mamba 彻底被拒，悬着的心终于死了。「Mamba」发布之初即被视为「Transformer 的强劲竞争者」，它是一种选择性状态空间模型（selective state space model），在语言建模方面可以媲美甚至击败 Transformer。而且，它可以随上下文长度的增加实现线性扩展，其性能在实际数据中可提高到百万 token 长度序列，并实现 5 倍的推理吞吐量提升。
但对于 ICLR 审稿人来说，这篇论文还存在重大缺陷（至少针对当前版本）。
手握 8/8/6/3 得分，究竟

原文链接：8/8/6/3的Mamba论文，最终还是被ICLR 2024拒了，网友：悬着的心终于死了