稀疏算力暴涨591%！Meta推出5nm AI训练芯片，自研AI芯片盛世来了

AIGC动态欢迎阅读

原标题：稀疏算力暴涨591%！Meta推出5nm AI训练芯片，自研AI芯片盛世来了
关键字：芯片,模型,系统,加速器,带宽
文章来源：智东西
内容字数：6861字

内容摘要：

最大功耗90W，INT8稀疏计算性能达到708TFLOPS。
作者|ZeR0
编辑|漠影
智东西4月11日报道，美国AI三巨头不仅在大模型赛道争奇斗艳，还纷纷卷起自研AI芯片。昨天“AI界汪峰”谷歌刚推出新款云端定制芯片，今天Meta就将硅谷注意力吸引走，重磅宣布推出第二代自研AI训练和推理芯片MTIA v2。Meta去年5月推出的第一代MTIA v1采用台积电7nm芯片。MTIA v2则换上了台积电5nm，每PE缓存从上一代的128KB增加到384KB，频率从800MHz提升到1.35GHz，INT8精度下的稠密算力达到上一代的近3.5倍，稀疏算力达到上一代的近7倍，达到708TFLOPS。
有意思的是，MTIA v2的面积仅变大13%，不过功耗增加到上一代的3.6倍，达到90W，上一代只有25W。
相比之下，英伟达H100 PCIe的最大功耗约在350~500W区间（SXM版高达700W），INT8精度下稀疏算力为3026TFLOPS。
在平台层，通过2倍的设备数量和2插槽CPU，MTIA v2能够实现6倍的模型服务吞吐量、比第一代MTIA系统提高多达1.5倍的每瓦性能。
与MTI

原文链接：稀疏算力暴涨591%！Meta推出5nm AI训练芯片，自研AI芯片盛世来了