终端侧AI才是生成式AI规模化的未来 | 高通颜辰巍@MEET2024

AIGC动态欢迎阅读

原标题：终端侧AI才是生成式AI规模化的未来 | 高通颜辰巍@MEET2024
关键字：终端,模型,用户,平台,性能
文章来源：量子位
内容字数：7344字

内容摘要：

编辑部 整理自 MEET2024量子位 | 公众号 QbitAI纵观刚刚过去的MEET 2024智能未来大会，终端侧AI俨然成为其中一大热词。
为什么大家都在谈论这一趋势？
在大会现场，高通技术公司产品管理高级副总裁颜辰巍归纳了三点原因：
一是随着模型参数越来越大、相关应用以及用户越来越多，云计算推理成本和综合成本将急剧增加，将难以支持生成式AI规模化发展。
二是数据在哪里，AI推理就应该在哪里进行，这不仅最经济也更为保护用户隐私。
三是有些应用场景没有5G数据连接，这时候就必须有本地计算能力。
基于此，颜辰巍认为：
只有当终端就能运行基于AI大模型的用例时，端侧与云侧能很好地结合，生成式AI才能大规模普及，发挥出所有的潜力。
为了完整体现颜辰巍对终端侧AI的见解和思考，量子位在不改变原意的基础上，对他的演讲内容进行了编辑整理。
关于MEET 智能未来大会：MEET大会是由量子位主办的智能科技领域顶级商业峰会，致力于探讨前沿科技技术的落地与行业应用。今年共有数十家主流媒体及直播平台报道直播了MEET2024大会，吸引了超过300万行业用户线上参会，全网总曝光量累积超过2000万。
演讲

原文链接：终端侧AI才是生成式AI规模化的未来 | 高通颜辰巍@MEET2024

联系作者

文章来源：量子位
作者微信：QbitAI
作者简介：追踪人工智能新趋势，关注科技行业新突破