AI成为「耗电大户」,除了新能源,还需要芯片创新

AI成为「耗电大户」,除了新能源,还需要芯片创新

AIGC动态欢迎阅读

原标题:AI成为「耗电大户」,除了新能源,还需要芯片创新
关键字:报告,数据中心,危机,电网,人工智能
文章来源:机器之心
内容字数:0字

内容摘要:


选自Communications of the ACM
作者:R. Colin Johnson
机器之心编译
机器之心编辑部人工智能的普及造成了一场能源危机,但并不是无法解决。人工智能(AI)的式增长促使科技巨头(包括 Google、Meta、亚马逊和微软等)开始构建超大规模数据中心,这些数据中心需要的电力非常多 —— 是以千兆瓦计算而不是兆瓦。有分析师表示,这些巨型数据中心使用现有的半导体技术来挑战美国老化的电网基础设施,以满足其能源消耗需求。
例如,高盛估计仅对 ChatGPT 的一次查询所消耗的数据中心电能就比语音识别等传统人工智能功能多 10 倍,因此我们需要更强大的数据中心来支持这种需求。如今,生成式 AI(GenAI)处于爆发阶段,其参数量基本以亿计算。但是,在运行时,例如基于 Transformer 的这类模型无法像单词识别那样被压缩成小巧、快速的推理引擎。原因是它们不会返回简单的单词来响应用户输入,而是将用户查询与其庞大的神经网络中的数万亿个示例进行比较。这些响应需要从完整的段落到整篇白皮书、甚至是关于查询主题的整本书来查找。
市场调研公司 Tirias Resea


原文链接:AI成为「耗电大户」,除了新能源,还需要芯片创新

联系作者

文章来源:机器之心
作者微信:
作者简介:

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...