AIGC动态欢迎阅读
原标题:8/8/6/3的Mamba论文,最终还是被ICLR 2024拒了,网友:悬着的心终于死了
关键字:审稿人,论文,模型,作者,序列
文章来源:机器之心
内容字数:6451字
内容摘要:
机器之心报道
编辑:蛋酱几天前,ICLR 2024 的最终接收结果出来了。
大家应该还记得,Mamba 被 ICLR 2024 大会 Decision Pending(待定)的消息在 1 月份引发过一波社区热议。
当时,多位领域内的研究者分析,Decision Pending 的意思是延迟决定,虽然也可能会被拒,但这篇论文得到了 8/8/6/3 的打分,按理说不至于真被拒。论文审稿页面:https://openreview.net/forum?id=AL1fq05o7H
如今,Decision 已出,Mamba 彻底被拒,悬着的心终于死了。「Mamba」发布之初即被视为「Transformer 的强劲竞争者」,它是一种选择性状态空间模型(selective state space model),在语言建模方面可以媲美甚至击败 Transformer。而且,它可以随上下文长度的增加实现线性扩展,其性能在实际数据中可提高到百万 token 长度序列,并实现 5 倍的推理吞吐量提升。
但对于 ICLR 审稿人来说,这篇论文还存在重大缺陷(至少针对当前版本)。
手握 8/8/6/3 得分,究竟
原文链接:8/8/6/3的Mamba论文,最终还是被ICLR 2024拒了,网友:悬着的心终于死了
联系作者
文章来源:机器之心
作者微信:almosthuman2014
作者简介:专业的人工智能媒体和产业服务平台
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...