张鹏对话无问芯穹夏立雪:中国的Scaling Law是场景优势,异构算力解决大模型落地难题
AIGC动态欢迎阅读
原标题:张鹏对话无问芯穹夏立雪:中国的Scaling Law是场景优势,异构算力解决大模型落地难题
关键字:模型,解读,场景,硬件,核心
文章来源:Founder Park
内容字数:22340字
内容摘要:
Scaling Law 已成为大模型进化的「不二法门」。
参数量越大、数据集规模越大、算力消耗越大,大模型性能就越好。相比较海外的大模型公司,国内的大模型公司会面临更严峻的算力问题,资金、显卡限购等,以至于有不少人质疑,中国大模型到底有没有 Scaling Law?
无问芯穹联合创始人 & CEO 夏立雪认为,「我认为 Scaling Law 在中国可以有另外一个解读,也就是应用场景的 Scaling Law。」
而他们推出的「MxN」架构,「解决的是一堆相似的大模型,怎么能够在不同的卡上跑起来,最后以一种类似于水、电、煤气这样的资源的形式给到开发者使用。」
在他看来,「大模型今年最核心的任务就是落地,而落地的卡点就是性价比」。
4 月 10 日,在极客公园创始人&总裁张鹏和夏立雪的对话直播里,关于大模型 Scaling Law、国内的算力难题,以及大模型的落地难题,进行了探讨,并尝试提出了一些非共识的观点。
本文基于直播整理,略有删减。01
CUDA 是英伟达的壁垒,推理场景是算力未来的重点张鹏:从你的角度来看,上个月的 GTC 有什么值得大家注意的东西?
夏立雪:大概从 2018
原文链接:张鹏对话无问芯穹夏立雪:中国的Scaling Law是场景优势,异构算力解决大模型落地难题
联系作者
文章来源:Founder Park
作者微信:Founder-Park
作者简介:来自极客公园,专注与科技创业者聊「真问题」。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...