手把手教你部署端侧大模型，10月26日相约上海

AIGC动态欢迎阅读

原标题：手把手教你部署端侧大模型，10月26日相约上海
关键字：模型,华为,技术,智能,产品
文章来源：机器之心
内容字数：0字

内容摘要：

机器之心报道
机器之心编辑部历经 2023 年的「百模大战」，AI 正在各行业领域沉淀、落地。科技巨头们的比拼焦点正在从把模型越做越大，转向端侧大模型的研发与应用，并成为行业日益关注的焦点。
如果把云端的大模型类比成无所不能的智能，那么端侧的大模型更像是一种无所不在的智能。对于企业来说，如何抓住端侧大模型的热潮，深入挖掘其在各行业的应用潜力，将其与自身业务紧密结合，催生新的增长动力，这不仅是一个战略机遇，也是企业管理者需要深思熟虑的问题。将目光投向实际生产，想要把大模型装进算力有限的终端设备，总会存在一些绕不开的技术难点，如何在有限的计算资源下保持模型性能？如何在电池续航能力有限的情况下降低模型运行的能耗？如何设计蒸馏、剪枝算法为 AI 模型降本增效？
这时，举办一场详细拆解端侧大模型技术与应用实践活动就显得尤为迫切，基于此，由机器之心联合世界人工智能大会组委会办公室精心策划的「端侧 AI 大模型开发与应用实践」技术论坛，将于10 月 26 日在上海举办。
拆解前沿技术 探索新的应用前景核心议题：
端侧模型的压缩与量化技术
端侧推理引擎的架构和工作原理
大模型在手机端侧部署落地探索
面

原文链接：手把手教你部署端侧大模型，10月26日相约上海

联系作者

文章来源：机器之心
作者微信：
作者简介：