Mamba作者新作：将Llama3蒸馏成混合线性 RNN

AIGC动态欢迎阅读

原标题：Mamba作者新作：将Llama3蒸馏成混合线性 RNN
关键字：模型,注意力,线性,基准,性能
文章来源：机器之心
内容字数：0字

内容摘要：

机器之心报道
机器之心编辑部Transformer 在深度学习领域取得巨大成功的关键是注意力机制。注意力机制让基于 Transformer 的模型关注与输入序列相关的部分，实现了更好的上下文理解。然而，注意力机制的缺点是计算开销大，会随输入规模而二次增长，Transformer 也因此难以处理非常长的文本。
前段时间，Mamba 的出现打破了这一局面，它可以随上下文长度的增加实现线性扩展。随着 Mamba 的发布，这些状态空间模型 (SSM) 在中小型规模上已经可以与 Transformer 匹敌，甚至超越 Transformer，同时还能维持随序列长度的线性可扩展性，这让 Mamba 具有有利的部署特性。
简单来说，Mamba 首先引入了一个简单却有效的选择机制，其可根据输入对 SSM 进行重新参数化，从而可让模型在滤除不相关信息的同时无限期地保留必要和相关的数据。
最近，一篇题为《The Mamba in the Llama: Distilling and Accelerating Hybrid Models》的论文证明：通过重用注意力层的权重，大型 transformer 可以被

原文链接：Mamba作者新作：将Llama3蒸馏成混合线性 RNN

联系作者

文章来源：机器之心
作者微信：
作者简介：