英特尔第五代至强可扩展处理器发布，在CPU上跑AI更香了

AIGC动态欢迎阅读

原标题：英特尔第五代至强可扩展处理器发布，在CPU上跑AI更香了
关键字：英特尔,处理器,性能,模型,能力
文章来源：量子位
内容字数：7831字

内容摘要：

金磊 丰色 发自 凹非寺量子位 | 公众号 QbitAI千呼万唤始出来，第五代英特尔®至强®可扩展处理器，它来了！
若是用一句话来概括它的特点，那就是——AI味道越发得浓厚。
以训练、推理大模型为例：
与第四代相比，训练性能提升多达29%，推理性能提升高达42%；
与第三代相比，AI训练和推理性能提升高达14倍。
什么概念？
现在若是将不超过200亿参数的模型“投喂”给第五代至强®可扩展处理器，那么时延将低到不超过100毫秒！
也就是说，现在在CPU上跑大模型，着实是更香了。
而这也仅是英特尔在此次发布中的一隅，还包括打破自家“祖制”、被称为四十年来最重大架构转变的酷睿™Ultra。
此举亦是将AI的power注入到消费级PC中，用于加速本地的AI推理。
除此之外，具体到英特尔长期在各行各业扎根的AI实战应用，包括数据库、科学计算、生成式AI、机器学习、云服务等等。
它们也随着第五代至强®可扩展处理器的到来，在其内置的如英特尔® AMX、英特尔® SGX/TDX等其他内置加速器的帮助下，得到了更大的降本增效。
总而言之，纵观英特尔此次整场的发布，AI可谓贯穿始终。
最新英特尔处理器，A

原文链接：英特尔第五代至强可扩展处理器发布，在CPU上跑AI更香了

联系作者

文章来源：量子位
作者微信：QbitAI
作者简介：追踪人工智能新趋势，关注科技行业新突破