467亿参数MoE追平GPT-3.5！爆火开源Mixtral模型细节首公开，中杯逼近GPT-4

AIGC动态欢迎阅读

原标题：467亿参数MoE追平GPT-3.5！爆火开源Mixtral模型细节首公开，中杯逼近GPT-4

关键字：模型,西班牙语,德语,法语,英语

文章来源：新智元

内容字数：4992字

内容摘要：新智元报道编辑：alan 好困【新智元导读】今天，Mistral AI公布了Mixtral 8x7B的技术细节，不仅性能强劲，而且推理速度更快！还有更强型号的Mistral-medium也已开启内测，性能直追GPT-4。今天，Mistral AI正式放出了Mixtral 8x7B的技术细节——在大多数基准测试中，Mixtral的表现不仅优于Llama 2 70B，而且推理速度提高了整整6倍！尤其是，它在大多数标准基准测试上与GPT-3.5打平，甚至略胜一筹。新开源的Mixtral 8x7B自带了一些出色的表现：比如可以很好地处理32k长度的上下文，支持英语、法语、意大利语、德语和西班牙语，且在代码生成方面表现出强大的性能。另外，它可以微调为指令跟随模型（instruction-following model），在MT-Bench上获得了8.3分的好成绩。467亿参数打平GPT-3.5Mix…

原文链接：点此阅读原文：467亿参数MoE追平GPT-3.5！爆火开源Mixtral模型细节首公开，中杯逼近GPT-4

联系作者

文章来源：新智元

作者微信：AI_era

作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响，领航中国新智能时代。