AIGC动态欢迎阅读
原标题:显卡之争!英伟达和AMD下场互掐!GPU霸主地位是否能保?
关键字:性能,报告,测试,显卡,基准
文章来源:夕小瑶科技说
内容字数:5772字
内容摘要:
夕小瑶科技说 原创作者 | 王二狗大家好,我是二狗。
英伟达和AMD这两家芯片巨头掐起来啦!
事情的起因是,两周前AMD董事会主席兼CEO苏姿丰在一场活动中发布了用于生成式AI和数据中心的新一代Intinct MI300X GPU芯片加速卡。
单单发布显卡没啥问题,但是AMD声称MI300X芯片在推断 Meta 的 Llama 2700 亿参数模型时,能够实现比 H100 低 40% 的延迟。
这意味着AMD的MI300X芯片性能更优呗!
英伟达下场指责AMD那英伟达作为GPU显卡的行业老大哥,听到之后哪能愿意啊。
所以,就在上周,英伟达特意发布一篇官方博客来证明 H100 具有顶级的推理性能。
英伟达博客表示:
一流的AI性能需要高效的并行计算架构、高效的工具堆栈和深度优化的算法。英伟达发布了开源 NVIDIA TensorRT-LLM,其中包括针对 NVIDIA H100 Tensor Core GPU 核心的 NVIDIA Hopper 架构的最新内核优化。这些优化使 Llama 2 70B 等模型能够在 H100 GPU 上使用加速 FP8 运算执行,同时保持推理精度。
而AM
原文链接:显卡之争!英伟达和AMD下场互掐!GPU霸主地位是否能保?
联系作者
文章来源:夕小瑶科技说
作者微信:xixiaoyaoQAQ
作者简介:更快的AI前沿,更深的行业洞见。聚集25万AI应用开发者、算法工程师和研究人员。一线作者均来自清北、国外顶级AI实验室和互联网大厂,兼备媒体sense与技术深度。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...