微软推出iPhone能跑的ChatGPT级模型,网友:OpenAI得把GPT-3.5淘汰了

AIGC动态5个月前发布 量子位
5 0 0

微软推出iPhone能跑的ChatGPT级模型,网友:OpenAI得把GPT-3.5淘汰了

AIGC动态欢迎阅读

原标题:微软推出iPhone能跑的ChatGPT模型,网友:OpenAI得把GPT-3.5淘汰了
关键字:报告,模型,数据,微软,参数
文章来源:量子位
内容字数:2643字

内容摘要:


梦晨发自 凹非寺量子位 | 公众号 QbitAILlama 3发布刚几天,微软就出手截胡了?
刚刚发布的Phi-3系列小模型技术报告,引起AI圈热议。
其中仅3.8B参数的Phi-3-mini在多项基准测试中超过了Llama 3 8B。
为了方便开源社区使用,还特意设计成了与Llama系列兼容的结构。
微软这次打出“手机就能直接跑的小模型”的旗号,4bit量化后的phi-3-mini在iPhone 14 pro和iPhone 15使用的苹果A16芯片上跑到每秒12 token。
这意味着,现在手机上能本地运行的最佳开源模型,已经做到ChatGPT水平。
在技术报告中还玩了一把花活,让phi-3-mini自己解释为什么构建小到手机能跑的模型很令人惊叹。
除了mini杯之外,小杯中杯也一并发布:
Phi-3-small,7B参数,为支持多语言换用了tiktoken分词器,并额外增加10%多语种数据。
Phi-3-medium,14B参数,在更多数据上训练,多数测试中已超越GPT-3.5和Mixtral 8x7b MoE。
(大杯他们目前不打算做)
作者阵容一看也不简单,一眼扫过去MSRA和


原文链接:微软推出iPhone能跑的ChatGPT级模型,网友:OpenAI得把GPT-3.5淘汰了

联系作者

文章来源:量子位
作者微信:QbitAI
作者简介:追踪人工智能新趋势,关注科技行业新突破

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...