为什么说GPU再火，AI平台也少不了强力的CPU

AIGC动态欢迎阅读

原标题：为什么说GPU再火，AI平台也少不了强力的CPU
关键字：腾讯,英特尔,模型,数据,服务器
文章来源：量子位
内容字数：9882字

内容摘要：

金磊 梦晨 发自 凹非寺量子位 | 公众号 QbitAIAIGC的这把火，燃起来的可不只是百模大战的热度和雨后春笋般的各式AI应用。
更是由于算力与通信需求的爆发式增长，使得底层的专用加速芯片、以及配备这些芯片的AI加速服务器再次被拉到了大众的聚光灯下。
据统计，2023年全球范围内的AI服务器市场规模已经达到了211亿美元，并且IDC还发布预测说：
预计2025年达317.9亿美元，2023-2025年CAGR为22.7%。
AIGC大模型的训练和推理需要大量的高性能算力支持，对AI服务器需求还将提升。
而且AI加速服务器不同于普通服务器，在架构上一般采用异构的方式，且GPU的数量更是能配多少就配多少，这也就是造成目前GPU千金难求的因素之一。
但你知道吗？即使在大模型时代GPU或各式AI加速芯片的光芒变得更加耀眼，但对于AI基础设施来说，CPU依然是必不可少的存在——至少一台高端的AI加速服务器中每8个GPU就需得搭配2个CPU。
不仅如此，由于AI加速服务器异构的特点，市场上除了CPU+GPU的组合方式之外，还有其它多种多样的架构，例如：
CPU＋FPGA
CPU＋TPU
CPU

原文链接：为什么说GPU再火，AI平台也少不了强力的CPU

联系作者

文章来源：量子位
作者微信：QbitAI
作者简介：追踪人工智能新趋势，关注科技行业新突破