国内外140+大模型、8万+考题测评结果出炉!智源评测体系出品

AIGC动态7个月前发布 量子位
8 0 0

国内外140+大模型、8万+考题测评结果出炉!智源评测体系出品

AIGC动态欢迎阅读

原标题:国内外140+大模型、8万+考题测评结果出炉!智源评测体系出品
关键字:模型,解读,字节跳动,腾讯,能力
文章来源:量子位
内容字数:5138字

内容摘要:


允中 发自 凹非寺量子位 | 公众号 QbitAI2024年5月17日,智源研究院举办大模型评测发布会,正式推出科学、权威、公正、开放的智源评测体系,发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果。
本次智源评测,分别从主观、客观两个维度考察了语言模型的简单理解、知识运用、推理能力、数学能力、代码能力、任务解决、安全与价值观七大能力;针对多模态模型则主要评估了多模态理解和生成能力。
在中文语境下,国内头部语言模型的综合表现已接近国际一流水平,但存在能力发展不均衡的情况。在多模态理解图文问答任务上,开闭源模型平分秋色,国产模型表现突出。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小。多模态模型的文生视频能力上,对比各家公布的演示视频长度和质量,Sora有明显优势,其他开放评测的文生视频模型中,国产模型PixVerse表现优异。
由于安全与价值观对齐是模型产业落地的关键,但海外模型与国内模型在该维度存在差异,因此语言模型主客观评测的总体排名不计入该单项分数。语言模型主观评测结果显示,在中文语境下,字节跳动豆包Skylark2、OpenAI GP


原文链接:国内外140+大模型、8万+考题测评结果出炉!智源评测体系出品

联系作者

文章来源:量子位
作者微信:QbitAI
作者简介:追踪人工智能新趋势,关注科技行业新突破

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...