微软推出iPhone能跑的ChatGPT级模型，网友：OpenAI得把GPT-3.5淘汰了

AIGC动态欢迎阅读

原标题：微软推出iPhone能跑的ChatGPT级模型，网友：OpenAI得把GPT-3.5淘汰了
关键字：报告,模型,数据,微软,参数
文章来源：量子位
内容字数：2643字

内容摘要：

梦晨发自凹非寺量子位 | 公众号 QbitAILlama 3发布刚几天，微软就出手截胡了？
刚刚发布的Phi-3系列小模型技术报告，引起AI圈热议。
其中仅3.8B参数的Phi-3-mini在多项基准测试中超过了Llama 3 8B。
为了方便开源社区使用，还特意设计成了与Llama系列兼容的结构。
微软这次打出“手机就能直接跑的小模型”的旗号，4bit量化后的phi-3-mini在iPhone 14 pro和iPhone 15使用的苹果A16芯片上跑到每秒12 token。
这意味着，现在手机上能本地运行的最佳开源模型，已经做到ChatGPT水平。
在技术报告中还玩了一把花活，让phi-3-mini自己解释为什么构建小到手机能跑的模型很令人惊叹。
除了mini杯之外，小杯中杯也一并发布：
Phi-3-small，7B参数，为支持多语言换用了tiktoken分词器，并额外增加10%多语种数据。
Phi-3-medium，14B参数，在更多数据上训练，多数测试中已超越GPT-3.5和Mixtral 8x7b MoE。
（大杯他们目前不打算做）
作者阵容一看也不简单，一眼扫过去MSRA和

原文链接：微软推出iPhone能跑的ChatGPT级模型，网友：OpenAI得把GPT-3.5淘汰了