AI芯片竞争白热化！Meta官宣最新AI推理芯片！性能提升300%，支撑Llama高负载计算

AIGC动态欢迎阅读

原标题：AI芯片竞争白热化！Meta官宣最新AI推理芯片！性能提升300%，支撑Llama高负载计算
关键字：芯片,硬件,模型,编译器,方面
文章来源：夕小瑶科技说
内容字数：3433字

内容摘要：

夕小瑶科技说 原创作者 | Zicy在算力为王的大模型时代，AI技术“三巨头”：微软，谷歌，Meta，在自研芯片领域卷的是热火朝天。
最早是微软，在去年宣布基于台积电5nm技术制造了Azure Maia 100及Azure Cobalt 100芯片。前几天，谷歌也发布了自研数据中心芯片Axion，以应对高昂的AI竞赛成本。
这次Meta又有了大动作，发布第二代芯片Meta Training and Inference Accelerator v2(MTIAv2)。
话不多说，先来看看MTIAv2的硬件表现。
容量、计算、带宽翻倍在工艺和性能方面，相比于Meta去年5月推出的MTIAv1采用的台积电7nm芯片，MTIAv2则换上了台积电5nm芯片，频率从800MHz提升到1.35GHz，稠密算力达到上一代的近3.5倍，稀疏算力达到上一代的近7倍，INT8精度下达到708TFLOPS。
这主要得益于稀疏计算的流水线相关的体系结构的改进，以及本地PE存储、片上SRAM以及LPDDR5容量的翻倍，并将其带宽增加到3.5倍。
能耗方面，从25W提升到了90W。值得一提的是，英伟达H100的功耗约

原文链接：AI芯片竞争白热化！Meta官宣最新AI推理芯片！性能提升300%，支撑Llama高负载计算

联系作者

文章来源：夕小瑶科技说
作者微信：xixiaoyaoQAQ
作者简介：专业、有趣、深度价值导向的科技媒体。聚集30万AI工程师、研究员，覆盖500多家海内外机构投资人，互联网大厂中高管和AI公司创始人。一线作者来自清北、国内外顶级AI实验室和大厂，兼备敏锐的行业嗅觉和洞察深度。商务合作：zym5189