标签:闪存

苹果搭载大模型的 Siri,可能和你想的不太一样

苹果的 ChatGPT苹果的 AI,虽迟但到。 根据华尔街日报消息,苹果正与百度商讨,关于国内市场的 iPhone 以及其他设备中整合生成式 AI 的业务。 尽管目前还没有...
阅读原文

CPU推理提升4到5倍,苹果用闪存加速大模型推理,Siri 2.0要来了?

机器之心报道 编辑:杜伟、蛋酱苹果这项新工作将为未来 iPhone 加入大模型的能力带来无限想象力。近年来,GPT-3、OPT 和 PaLM 等大型语言模型(LLM)在广泛的...
阅读原文

苹果突破内存限制,将大型语言模型嵌入iPhone

点击上方蓝字关注我们“苹果研究人员成功运用创新的闪存技术,克服了iPhone内存限制,实现了大型语言模型在有限内存下的高效推理。通过窗口化和行列捆绑等关键...
阅读原文

LLM推理飙升25倍!苹果超高效内存优化将大模型塞进iPhone,2秒视频生成逼真3D化身

新智元报道编辑:alan 【新智元导读】近日,苹果连发两篇论文,不仅能一键生成逼真的3D化身,而且还要把大模型装进你的iPhone想不想在你的iPhone上本地运行GP...
阅读原文