Meta宣布全新训推一体加速器:完全集成PyTorch 2,性能3倍提升

Meta宣布全新训推一体加速器:完全集成PyTorch 2,性能3倍提升

AIGC动态欢迎阅读

原标题:Meta宣布全新训推一体加速器:完全集成PyTorch 2,性能3倍提升
关键字:芯片,堆栈,模型,编译器,加速器
文章来源:机器之心
内容字数:5800字

内容摘要:


机器之心报道
编辑:杜伟、陈萍Meta 疯狂砸入数十亿美元,一部分招揽人才,一部分造芯片。Meta 正在不遗余力地想要在生成式 AI 领域赶上竞争对手,目标是投入数十亿美元用于 AI 研究。这些巨资一部分用于招募 AI 研究员。但更大的一部分用于开发硬件,特别是用于运行和训练 Meta AI 模型的芯片。
在英特尔宣布其最新人工智能加速器硬件的第二天,Meta 便迅速公布了关于芯片研发的最新成果:下一代 MTIA(Meta Training and Inference Accelerator),其中 MTIA 是专为 Meta AI 工作负载而设计的定制芯片系列。分析认为,Meta 此举意在减少对英伟达及其他外部公司芯片的依赖。其实,Meta 在去年就推出了第一代 MTIA,与前代相比,最新版本显著改进了性能,并有助于强化内容排名和推荐广告模型。从 Meta 官方介绍中我们可以看出,MTIA v2 目前已在其 16 个数据中心投入使用,与 MTIA v1 相比,整体性能提高了 3 倍。不过最早的 MTIA v1 预计要到 2025 年才会发布,MTIA v2 只能再等等了,但 Meta


原文链接:Meta宣布全新训推一体加速器:完全集成PyTorch 2,性能3倍提升

联系作者

文章来源:机器之心
作者微信:almosthuman2014
作者简介:专业的人工智能媒体和产业服务平台

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...