老黄祭出新B200!30倍H100单机可训15个GPT-4模型,AI迎新摩尔时代

AIGC动态9个月前发布 新智元
7 0 0

老黄祭出新核弹B200!30倍H100单机可训15个GPT-4模型,AI迎新摩尔时代

AIGC动态欢迎阅读

原标题:老黄祭出新B200!30倍H100单机可训15个GPT-4模型,AI迎新摩尔时代
关键字:模型,芯片,参数,性能,人工智能
文章来源:新智元
内容字数:8203字

内容摘要:


新智元报道编辑:编辑部
【新智元导读】就在刚刚,老黄又来打破摩尔定律了:英伟达新B200,一块能顶5个H100,30倍推理加速,能训万亿参数大模型!同时推出的AI推理微服务NIM,号称让全世界用上AI。就在刚刚结束的GTC人工智能大会上,英伟达的新一代性能巨兽Backwell诞生了!
Blackwell B200 GPU,是如今世界上最强大的AI芯片,旨在「普惠万亿参数的AI」。
本来,H100已经使英伟达成为价值数万亿美元的公司,赶超了谷歌和亚马逊,但现在,凭着Blackwell B200和GB200,英伟达的领先优势还要继续领先。
老黄表示——「H100很好,但我们需要更大的GPU」!
新的B200 GPU,从2080亿个晶体管中能提供高达20 petaflops的FP4性能。(H100仅为4 petaflops)
而将两个B200与单个Grace CPU相结合的GB200,则可以为LLM推理工作负载提供30倍的性能,同时大大提高效率。
比起H100,GB200的成本和能耗降低了25倍!
Blackwell芯片和Hopper H100芯片的尺寸比较
这种额外的处理能力,就能让


原文链接:老黄祭出新B200!30倍H100单机可训15个GPT-4模型,AI迎新摩尔时代

联系作者

文章来源:新智元
作者微信:AI_era
作者简介:智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人对人类社会与文明进化的影响,领航中国新智能时代。

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...