IEEE：GPU很好，但不是唯一

AIGC动态欢迎阅读

原标题：IEEE：GPU很好，但不是唯一
关键字：英特尔,解读,模型,性能,新一代
文章来源：量子位
内容字数：5621字

内容摘要：

金磊梦晨发自凹非寺量子位 | 公众号 QbitAI是时候让CPU在AI应用上 “支棱”起来了。
这是去年大语言模型大火之时，权威期刊IEEE Spectrum在一篇文章中，开门见山给出的一个观点；并且是由一群AI研究人员得出、声量越来越大的那种。
文章还坦言道：
诚然GPU可能占据了主导地位，但在AI领域中的很多情况下，CPU却是更合适的那一个。
例如文章引援了Hugging Face首席布道官Julien Simon体验的真实案例——
拿一个英特尔®至强®系列CPU，就能轻松驾驭Q8-Chat这个大语言模型，而且响应速度很快。
Simon对此开诚布公地表示：
GPU虽然很好，但垄断从来不是一件好事，可能会加剧供应链问题并导致成本上升。
英特尔CPU在许多推理场景中都能很好地运行。
而这也正与当下大模型的发展趋势变化相契合，即逐渐从训练向推理倾斜，大模型不再仅仅较真于参数规模、跑分和测评，更注重在应用侧发力。
一言蔽之，比的就是看谁能“快好省”地用起来。
不过话虽如此，但在真实的AI场景中，CPU真的已经“支棱”起来了吗？
京东云，选择CPU如果说当时在这个话题上，IEEE扮演了

原文链接：IEEE：GPU很好，但不是唯一