IEEE:GPU很好,但不是唯一

AIGC动态7个月前发布 量子位
6 0 0

IEEE:GPU很好,但不是唯一

AIGC动态欢迎阅读

原标题:IEEE:GPU很好,但不是唯一
关键字:英特尔,解读,模型,性能,新一代
文章来源:量子位
内容字数:5621字

内容摘要:


金磊 梦晨 发自 凹非寺量子位 | 公众号 QbitAI是时候让CPU在AI应用上 “支棱”起来了。
这是去年大语言模型大火之时,权威期刊IEEE Spectrum在一篇文章中,开门见山给出的一个观点;并且是由一群AI研究人员得出、声量越来越大的那种。
文章还坦言道:
诚然GPU可能占据了主导地位,但在AI领域中的很多情况下,CPU却是更合适的那一个。
例如文章引援了Hugging Face首席布道官Julien Simon体验的真实案例——
拿一个英特尔®至强®系列CPU,就能轻松驾驭Q8-Chat这个大语言模型,而且响应速度很快。
Simon对此开诚布公地表示:
GPU虽然很好,但垄断从来不是一件好事,可能会加剧供应链问题并导致成本上升。
英特尔CPU在许多推理场景中都能很好地运行。
而这也正与当下大模型的发展趋势变化相契合,即逐渐从训练向推理倾斜,大模型不再仅仅较真于参数规模、跑分和测评,更注重在应用侧发力。
一言蔽之,比的就是看谁能“快好省”地用起来。
不过话虽如此,但在真实的AI场景中,CPU真的已经“支棱”起来了吗?
京东云,选择CPU如果说当时在这个话题上,IEEE扮演了


原文链接:IEEE:GPU很好,但不是唯一

联系作者

文章来源:量子位
作者微信:QbitAI
作者简介:追踪人工智能新趋势,关注科技行业新突破

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...