“Transformer挑战者”Mamba,用Macbook也能跑了!GitHub半天斩获500+星

AIGC动态9个月前发布 量子位
9 0 0

“Transformer挑战者”Mamba,用Macbook也能跑了!GitHub半天斩获500+星

AIGC动态欢迎阅读

原标题:“Transformer挑战者”Mamba,用Macbook也能跑了!GitHub半天斩获500+星
关键字:笔记,模型,文件,挑战者,规模
文章来源:量子位
内容字数:2908字

内容摘要:


克雷西 发自 凹非寺量子位 | 公众号 QbitAI“Transformer的挑战者”Mamba,用MacBook也能跑了!
有大佬在GitHub上共享了一份笔记,让人们可以用最简单的方式运行Mamba。
这份共享中,算上说明书一共只有三个文件,而且发布不到一天,就斩获了500+星标。
Mamba是一种新的大模型架构,在语言任务上的表现可以与两倍规模的Transformer一决雌雄。
但官方给出的只有模型文件,需要一定专业知识才能部署使用,而且要Linux+N卡才能运行。
有了这份笔记,Mamba的运行步骤大大简化,而且也不再要求N卡,M系列的MacBook也能跑了。
从事相关专业的网友看了表示,这种简单化的模型实在是太棒了,希望自己的工作也能朝着这个方向进展。
原版Mamba的作者Tri Dao和Albert Gu也转发了这份笔记,并对它的简洁性和易读性给予了肯定。
那么,这份笔记该如何使用呢?
两个文件即可运行首先,打开一个能运行PyTorch笔记的工具,比如Jupyter、VSCode,或者在线的谷歌Colab等。
然后下载作者的笔记和Python脚本,用Colab的话也可以使用


原文链接:“Transformer挑战者”Mamba,用Macbook也能跑了!GitHub半天斩获500+星

联系作者

文章来源:量子位
作者微信:QbitAI
作者简介:追踪人工智能新趋势,关注科技行业新突破

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...