微软小模型击败大模型：27亿参数，手机就能跑

AIGC动态欢迎阅读

原标题：微软小模型击败大模型：27亿参数，手机就能跑

关键字：模型,微软,数据,语言,性能

文章来源：机器之心

内容字数：4848字

内容摘要：机器之心报道编辑：杜伟、小舟在「小搏大」这条技术发展路线上，微软一直在前进。上个月，微软 CEO 纳德拉在 Ignite 大会上宣布自研小尺寸模型 Phi-2 将完全开源，在常识推理、语言理解和逻辑推理方面的性能显著改进。今天，微软公布了 Phi-2 模型的更多细节以及全新的提示技术 promptbase。这个仅 27 亿参数的模型在大多数常识推理、语言理解、数学和编码任务上超越了 Llama2 7B、Llama2 13B、Mistral 7B，与 Llama2 70B 的差距也在缩小（甚至更好）。同时，小尺寸的 Phi-2 可以在笔记本电脑、手机等移动设备上运行。纳德拉表示，微软非常高兴将一流的小语言模型（SLM）和 SOTA 提示技术向研发人员分享。今年 6 月，微软在一篇题为《Textbooks Are All You Need》的论文中，用规模仅为 7B token 的「教科书质量…

原文链接：点此阅读原文：微软小模型击败大模型：27亿参数，手机就能跑

联系作者

文章来源：机器之心

作者微信：almosthuman2014

作者简介：专业的人工智能媒体和产业服务平台