AIGC动态欢迎阅读
原标题:全球首个「开源GPT-4」出世!Llama 3震撼发布,Meta AI免登录可用
关键字:模型,数据,报告,团队,指令
文章来源:新智元
内容字数:11019字
内容摘要:
新智元报道编辑:编辑部
【新智元导读】蛰伏许久,Meta刚刚扔出了重磅炸弹:大家期待已久的Llama 3,用了24000块GPU训练,一亮相便登上开源大模型铁王座。8B和70B取得同规模参数下开源领域的SOTA,推理编码大幅提升,代码和权重全开源!而且,400B的Llama 3,也在路上了。LLM界的「真·Open AI」,又来整顿AI圈了!
业内惊呼:首个开源GPT-4级的模型,终于来了!开源模型追上闭源模型的历史性一刻,或许就在眼前了?
一石激起千层浪,Llama 3才刚刚发布没几小时,就破纪录地登顶了Hugging Face排行榜。
这次,Meta共开源了Llama 3 8B和Llama 3 70B两款模型,分别有预训练和指令微调两个版本。
小扎、LeCun也纷纷在第一时间开启了宣传模式:Llama 3是在由24000块GPU组成的定制集群上,使用15万亿个token训练的。
甚至就连最小8B版本,有时都能打败大出一个数量级的Llama 2 70B!
值得期待的是,在未来几个月,Llama 3还将推出更多版本
不过,虽然上下文长度相较之前实现了翻倍,但依然只有8K。顺带提一句,
原文链接:全球首个「开源GPT-4」出世!Llama 3震撼发布,Meta AI免登录可用
联系作者
文章来源:新智元
作者微信:AI_era
作者简介:智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...