老黄将世界上第一台英伟达H200亲手交付给OpenAI

老黄将世界上第一台英伟达H200亲手交付给OpenAI

AIGC动态欢迎阅读

原标题:老黄将世界上第一台英伟达H200亲手交付给OpenAI
关键字:显存,人类,创始人,科技,巨头
文章来源:夕小瑶科技说
内容字数:2406字

内容摘要:


夕小瑶科技说 分享作者 | Zicy就在昨天,英伟达CEO黄仁勋亲自将第一台英伟达DGX H200交付给OpenAI位于旧金山的总部,预示着两大科技巨头未来的合作可能会更加紧密。
我们先来看看H200有多强。
怪兽级性能相比于去年的H100,H200又有了巨大的提升,首先是显存达到了141G并且显存带宽达到4.8TB/s,分别是上一代的1.8倍和1.4倍。而且,通过显存共享,GPU显存可以达到19.5TB,可以说是天文数字般的存在了。
除此之外,GPU在LLM上的表现也非常卓越,在GPT-3 175B和Llama 2上为例,推理速度分别比上一代的快1.6倍和1.9倍。
此外,在高性能计算方面,也有较大提升。
同时,相比于上一代,H200在相同算力下所需的能源也下降了一半。
可以说,H200代表了目前人类最高水平的AI芯片,这可能让许多AI巨头开始迫不及待了。
军火交易现场昨天上午,OpenAI 总裁兼联合创始人Greg Brockman在推特上展示了和OpenAI CEO Sam Altman以及英伟达CEO Jensen Huang的一张合影,并配文“全球首个NVIDIA DGX H


原文链接:老黄将世界上第一台英伟达H200亲手交付给OpenAI

联系作者

文章来源:夕小瑶科技说
作者微信:xixiaoyaoQAQ
作者简介:专业、有趣、深度价值导向的科技媒体。聚集30万AI工程师、研究员,覆盖500多家海内外机构投资人,互联网大厂中高管和AI公司创始人。一线作者来自清北、国内外顶级AI实验室和大厂,兼备敏锐的行业嗅觉和洞察深度。商务合作:zym5189

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...