老黄祭出新核弹B200！30倍H100单机可训15个GPT-4模型，AI迎新摩尔时代

AIGC动态欢迎阅读

原标题：老黄祭出新核弹B200！30倍H100单机可训15个GPT-4模型，AI迎新摩尔时代
关键字：模型,芯片,参数,性能,人工智能
文章来源：新智元
内容字数：8203字

内容摘要：

新智元报道编辑：编辑部
【新智元导读】就在刚刚，老黄又来打破摩尔定律了：英伟达新核弹B200，一块能顶5个H100，30倍推理加速，能训万亿参数大模型！同时推出的AI推理微服务NIM，号称让全世界用上AI。就在刚刚结束的GTC人工智能大会上，英伟达的新一代性能巨兽Backwell诞生了！
Blackwell B200 GPU，是如今世界上最强大的AI芯片，旨在「普惠万亿参数的AI」。
本来，H100已经使英伟达成为价值数万亿美元的公司，赶超了谷歌和亚马逊，但现在，凭着Blackwell B200和GB200，英伟达的领先优势还要继续领先。
老黄表示——「H100很好，但我们需要更大的GPU」！
新的B200 GPU，从2080亿个晶体管中能提供高达20 petaflops的FP4性能。（H100仅为4 petaflops）
而将两个B200与单个Grace CPU相结合的GB200，则可以为LLM推理工作负载提供30倍的性能，同时大大提高效率。
比起H100，GB200的成本和能耗降低了25倍！
Blackwell芯片和Hopper H100芯片的尺寸比较
这种额外的处理能力，就能让

原文链接：老黄祭出新核弹B200！30倍H100单机可训15个GPT-4模型，AI迎新摩尔时代

联系作者

文章来源：新智元
作者微信：AI_era
作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响，领航中国新智能时代。