OpenAI把微软电网搞崩!GPT-6被曝25年发布,训练刷爆10万张H100

AIGC动态8个月前发布 新智元
14 0 0

OpenAI把微软电网搞崩!GPT-6被曝25年发布,训练刷爆10万张H100

AIGC动态欢迎阅读

原标题:OpenAI微软电网搞崩!GPT-6被曝25年发布,训练刷爆10万张H100
关键字:模型,微软,电力,电网,项目
文章来源:新智元
内容字数:7106字

内容摘要:


新智元报道编辑:编辑部
【新智元导读】GPT-5还未发布,GPT-6已经在路上了?微软工程师曝出,为GPT-6搭建10万个H100训练集群,整个电网却被搞崩。通往AGI大关,还需要破解电力难题。GPT-6也被电力卡脖子了——部署十万个H100时,整个电网发生了崩溃!
就在刚刚,微软工程师爆料,10万个H100基建正在紧锣密鼓地建设中,目的就是训练GPT-6。
微软工程师吐槽说,团队在部署跨区域GPU间的infiniband级别链接时遇到了困难。
Corbitt:为何不考虑直接将所有设备部署在同一个地区呢?
微软工程师:这确实是我们最初的方案。但问题是,一旦我们在同一个州部署超过100,000个H100 GPU,电网就会因无法负荷而崩溃。
这是创业者Kyle Corbitt在社交媒体上,分享自己与一位微软工程师关于GPT-6训练集群项目的对话
没想到,GPT-5还没发,微软就已悄悄为OpenAI开始训练GPT-6了。
同在今天,一张「OpenAI内部时间线」图片在网上疯转。
图中清晰标注出:OpenAI早在2022年8月-10月之间开始了GPT-5(代号Arrakis)的训练,2023


原文链接:OpenAI把微软电网搞崩!GPT-6被曝25年发布,训练刷爆10万张H100

联系作者

文章来源:新智元
作者微信:AI_era
作者简介:智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...