稀疏算力暴涨591%!Meta推出5nm AI训练芯片,自研AI芯片盛世来了

AIGC动态7个月前发布 智东西
4 0 0

稀疏算力暴涨591%!Meta推出5nm AI训练芯片,自研AI芯片盛世来了

AIGC动态欢迎阅读

原标题:稀疏算力暴涨591%!Meta推出5nm AI训练芯片,自研AI芯片盛世来了
关键字:芯片,模型,系统,加速器,带宽
文章来源:智东西
内容字数:6861字

内容摘要:


最大功耗90W,INT8稀疏计算性能达到708TFLOPS。
作者|ZeR0
编辑|漠影
智东西4月11日报道,美国AI三巨头不仅在大模型赛道争奇斗艳,还纷纷卷起自研AI芯片。昨天“AI界汪峰”谷歌刚推出新款云端定制芯片,今天Meta就将硅谷注意力吸引走,重磅宣布推出第二代自研AI训练和推理芯片MTIA v2。Meta去年5月推出的第一代MTIA v1采用台积电7nm芯片。MTIA v2则换上了台积电5nm,每PE缓存从上一代的128KB增加到384KB,频率从800MHz提升到1.35GHz,INT8精度下的稠密算力达到上一代的近3.5倍,稀疏算力达到上一代的近7倍,达到708TFLOPS。
有意思的是,MTIA v2的面积仅变大13%,不过功耗增加到上一代的3.6倍,达到90W,上一代只有25W。
相比之下,英伟达H100 PCIe的最大功耗约在350~500W区间(SXM版高达700W),INT8精度下稀疏算力为3026TFLOPS。
在平台层,通过2倍的设备数量和2插槽CPU,MTIA v2能够实现6倍的模型服务吞吐量、比第一代MTIA系统提高多达1.5倍的每瓦性能。
与MTI


原文链接:稀疏算力暴涨591%!Meta推出5nm AI训练芯片,自研AI芯片盛世来了

联系作者

文章来源:智东西
作者微信:zhidxcom
作者简介:智能产业新媒体!智东西专注报道人工智能主导的前沿技术发展,和技术应用带来的千行百业产业升级。聚焦智能变革,服务产业升级。

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...