苹果创新大模型压缩技术，大模型有机会塞进手机里了

AIGC动态欢迎阅读

原标题：苹果创新大模型压缩技术，大模型有机会塞进手机里了

关键字：权重,张量,内存,研究者,设备

文章来源：机器之心

内容字数：6021字

内容摘要：机器之心报道编辑：赵阳大模型的内容安全问题使得人们希望可以在终端设备上完成模型训练及运行。对于手机来说，大模型的权重数据显得尤为庞大。大型语言模型（LLM），尤其是生成式预训练 Transformer（GPT）模型在许多复杂的语言任务上表现出了出色的性能。这一突破使人们希望在移动设备上本地运行这些 LLM，以保护用户隐私。可是，即使是小型 LLM 也太大，无法在这些设备上运行。举例来说，小型 LL…

原文链接：点此阅读原文：苹果创新大模型压缩技术，大模型有机会塞进手机里了

联系作者

文章来源：机器之心

作者微信：almosthuman2014

作者简介：专业的人工智能媒体和产业服务平台