开源模型越来越落后?Meta甩出全新Llama 3应战|甲子光年

开源模型越来越落后?Meta甩出全新Llama 3应战|甲子光年

AIGC动态欢迎阅读

原标题:开源模型越来越落后?Meta甩出全新Llama 3应战|甲子光年
关键字:模型,知识产权,数据,测试,性能
文章来源:甲子光年
内容字数:7399字

内容摘要:


一头狂奔中睥睨对手的羊驼。作者|苏霍伊
编辑|王博如同闷了很久,突然下的一场雨——Llama 3终于来了。
美国当地时间4月18日,Meta公司推出其开源大语言模型“Llama”(直译是“羊驼”)系列的最新产品——Llama 3。更准确地说,是发布了Llama 3系列的两个版本:包含80亿参数的Llama 3 8B和包含700亿参数的Llama 3 70B。
Meta表示,Llama 3在性能上实现了重大跃迁。并称它为“迄今为止最强的开源大模型”。就其参数量而言,Llama 3 8B和Llama 3 70B是目前市场上表现最佳的生成式AI模型之一,这两款模型都是在两个专门构建的含24000个英伟达GPU的集群上训练的,在15万亿个Token上预训练的。
除此之外,Meta透露,他们目前正在开发一款超过4000亿参数的Llama 3模型。这款模型不仅能用多种语言进行对话,还能处理更多数据,理解图像及其他非文本模式,力求使Llama 3系列与Hugging Face的Idefics2等开源模型保持同步。
消息一出便引起热议,埃隆·马斯克(Elon Musk)在杨立昆(Yann LeCun)


原文链接:开源模型越来越落后?Meta甩出全新Llama 3应战|甲子光年

联系作者

文章来源:甲子光年
作者微信:jazzyear
作者简介:甲子光年是一家科技智库,包含智库、社群、企业服务版块,立足中国科技创新前沿阵地,动态跟踪头部科技企业发展和传统产业技术升级案例,推动人工智能、大数据、物联网、云计算、新能源、新材料、信息安全、大健康等科技创新在产业中的应用与落地。

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...