千元成本搞定专业大模型，系统优化+开源大模型是关键 | 潞晨卞正达@MEET2024

AIGC动态欢迎阅读

原标题：千元成本搞定专业大模型，系统优化+开源大模型是关键 | 潞晨卞正达@MEET2024
关键字：模型,高效,序列,门槛,系统
文章来源：量子位
内容字数：6888字

内容摘要：

编辑部整理自 MEET2024量子位 | 公众号 QbitAI大模型元年里，哪怕是跑在趋势最前沿的基座模型厂商，都难逃算力焦虑。
一方面，大模型本身由于技术特性，算力需求翻倍增长；另一方面，算力供应紧张，“一卡难求”一度成为行业普遍现象。
但与此同时，趋势不等人。
所以如何高效利用好现有算力资源，成为许多厂商选择的路线，由此也带动AI加速方案、AI Infra成为业内热议话题。
那么专门提供加速方案的玩家，洞察到了哪些趋势？提出了哪些解决方案？就非常关键了。
比如潞晨科技CTO卞正达提到：
低成本迁移方案能利用开源模型快速打造垂类专业大模型。
潞晨科技通过打造分布式AI开发和部署平台，帮助企业降低大模型的落地成本，提升训练、推理效率，公司成立24个月内完成四轮融资，最近一笔为近亿元A+轮融资。
为了完整体现卞正达对大模型加速的思考，在不改变原意的基础上，量子位对他的演讲内容进行了编辑整理。希望也能给你带来新的启发。
关于MEET 智能未来大会：MEET大会是由量子位主办的智能科技领域顶级商业峰会，致力于探讨前沿科技技术的落地与行业应用。今年共有数十家主流媒体及直播平台报道直播了MEE

原文链接：千元成本搞定专业大模型，系统优化+开源大模型是关键 | 潞晨卞正达@MEET2024