Meta首发「变色龙」挑战GPT-4o,34B参数引领多模态革命!10万亿token训练刷新SOTA

AIGC动态6个月前发布 新智元
6 0 0

Meta首发「变色龙」挑战GPT-4o,34B参数引领多模态革命!10万亿token训练刷新SOTA

AIGC动态欢迎阅读

原标题:Meta首发「变色龙」挑战GPT-4o,34B参数引领多模态革命!10万亿token训练刷新SOTA
关键字:模型,图像,报告,文本,数据
文章来源:新智元
内容字数:8186字

内容摘要:


新智元报道编辑:桃子乔杨
【新智元导读】GPT-4o发布不到一周,首个敢于挑战王者的新模型诞生!最近,Meta团队发布了「混合模态」Chameleon,可以在单一神经网络无缝处理文本和图像。10万亿token训练的34B参数模型性能接近GPT-4V,刷新SOTA。GPT-4o的横空出世,再次创立了一个多模态模型发展的新范式!
为什么这么说?
OpenAI将其称为「首个『原生』多模态」模型,意味着GPT-4o与以往所有的模型,都不尽相同。
传统的多模态基础模型,通常为每种模态采用特定的「编码器」或「解码器」,将不同的模态分离开。
然而,这种方法限制了模型,有效融合跨模态信息的能力。
官博介绍,GPT-4o是「首个端到端」训练的,跨越文本、视觉和音频的模型,所有的输入和输出,都由单个神经网络处理。
而现在,业界首个敢于挑战GPT-4o的模型现身了!
最近,来自Meta团队的研究人员发布了「混合模态基座模型」——Chameleon(变色龙)。
论文地址:https://arxiv.org/pdf/2405.09818
与GPT-4o一样,Chameleon采用了统一的Transformer


原文链接:Meta首发「变色龙」挑战GPT-4o,34B参数引领多模态革命!10万亿token训练刷新SOTA

联系作者

文章来源:新智元
作者微信:AI_era
作者简介:智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...