国产GPU万卡集群终于来了！摩尔线程CEO张建中：做难而正确的事

AIGC动态欢迎阅读

原标题：国产GPU万卡集群终于来了！摩尔线程CEO张建中：做难而正确的事
关键字：集群,模型,线程,报告,华为
文章来源：智东西
内容字数：0字

内容摘要：

万卡集群杀出国产GPU黑马！万P算力万亿参数，零代码修改可迁移。
作者|ZeR0
编辑|漠影
“AI主战场，万卡是最低标配！”
在2024世界人工智能大会开幕前夕，摩尔线程创始人兼CEO张建中抛出一句掷地有声的断言。
为什么必须是万卡？大模型行业变化很快，客户希望两周内结束战斗，最迟也得在1个月内训练完。假设训练一个5000亿参数模型，有15TB数据，如果只有1000P算力，3年都训不完；如果将时间锁到两周或1个月，10000P是最低保障。
在海外，拥有1.8万亿参数的GPT-4大模型需要用25000张A100 GPU训100天，折算成H100则需要1000张；Meta今年推出2个24576张H100集群，用于训练Llama 3等新模型；本周马斯克自曝新版Grok 3训练用了10万张H100 GPU。
在国内，万卡集群建设高歌猛进。去年7月，华为昇腾AI集群规模扩展至16000卡；10月，科大讯飞宣布启动万卡集群算力平台“飞星一号”；今年3月，天翼云上海临港国产万卡算力池启用；4月，中国移动宣布今年将商用3个自主可控万卡集群……一众云大厂更是囤卡攒算力专业户，将大模型训练集群规模卷向1

原文链接：国产GPU万卡集群终于来了！摩尔线程CEO张建中：做难而正确的事

联系作者

文章来源：智东西
作者微信：zhidxcom
作者简介：智能产业新媒体！智东西专注报道人工智能主导的前沿技术发展，和技术应用带来的千行百业产业升级。聚焦智能变革，服务产业升级。