Meta首发「变色龙」挑战GPT-4o，34B参数引领多模态！10万亿token训练刷新SOTA

AIGC动态欢迎阅读

原标题：Meta首发「变色龙」挑战GPT-4o，34B参数引领多模态！10万亿token训练刷新SOTA
关键字：模型,图像,报告,文本,数据
文章来源：新智元
内容字数：8186字

内容摘要：

新智元报道编辑：桃子乔杨
【新智元导读】GPT-4o发布不到一周，首个敢于挑战王者的新模型诞生！最近，Meta团队发布了「混合模态」Chameleon，可以在单一神经网络无缝处理文本和图像。10万亿token训练的34B参数模型性能接近GPT-4V，刷新SOTA。GPT-4o的横空出世，再次创立了一个多模态模型发展的新范式！
为什么这么说？
OpenAI将其称为「首个『原生』多模态」模型，意味着GPT-4o与以往所有的模型，都不尽相同。
传统的多模态基础模型，通常为每种模态采用特定的「编码器」或「解码器」，将不同的模态分离开。
然而，这种方法限制了模型，有效融合跨模态信息的能力。
官博介绍，GPT-4o是「首个端到端」训练的，跨越文本、视觉和音频的模型，所有的输入和输出，都由单个神经网络处理。
而现在，业界首个敢于挑战GPT-4o的模型现身了！
最近，来自Meta团队的研究人员发布了「混合模态基座模型」——Chameleon（变色龙）。
论文地址：https://arxiv.org/pdf/2405.09818
与GPT-4o一样，Chameleon采用了统一的Transformer

原文链接：Meta首发「变色龙」挑战GPT-4o，34B参数引领多模态！10万亿token训练刷新SOTA

联系作者

文章来源：新智元
作者微信：AI_era
作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人对人类社会与文明进化的影响，领航中国新智能时代。