AIGC动态欢迎阅读
内容摘要:
金磊 梦晨 发自 凹非寺量子位 | 公众号 QbitAI是时候让CPU在AI应用上 “支棱”起来了。
这是去年大语言模型大火之时,权威期刊IEEE Spectrum在一篇文章中,开门见山给出的一个观点;并且是由一群AI研究人员得出、声量越来越大的那种。
文章还坦言道:
诚然GPU可能占据了主导地位,但在AI领域中的很多情况下,CPU却是更合适的那一个。
例如文章引援了Hugging Face首席布道官Julien Simon体验的真实案例——
拿一个英特尔®至强®系列CPU,就能轻松驾驭Q8-Chat这个大语言模型,而且响应速度很快。
Simon对此开诚布公地表示:
GPU虽然很好,但垄断从来不是一件好事,可能会加剧供应链问题并导致成本上升。
英特尔CPU在许多推理场景中都能很好地运行。
而这也正与当下大模型的发展趋势变化相契合,即逐渐从训练向推理倾斜,大模型不再仅仅较真于参数规模、跑分和测评,更注重在应用侧发力。
一言蔽之,比的就是看谁能“快好省”地用起来。
不过话虽如此,但在真实的AI场景中,CPU真的已经“支棱”起来了吗?
京东云,选择CPU如果说当时在这个话题上,IEEE扮演了
原文链接:IEEE:GPU很好,但不是唯一
联系作者
文章来源:量子位
作者微信:QbitAI
作者简介:追踪人工智能新趋势,关注科技行业新突破
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...