大模型增速远超摩尔定律！MIT最新研究：人类快要喂不饱AI了

AIGC动态欢迎阅读

原标题：大模型增速远超摩尔定律！MIT最新研究：人类快要喂不饱AI了
关键字：模型,定律,报告,数据,表示
文章来源：新智元
内容字数：5295字

内容摘要：

新智元报道编辑：alan
【新智元导读】近日，来自MIT的研究人员发表了关于大模型能力增速的研究，结果表明，LLM的能力大约每8个月就会翻一倍，速度远超摩尔定律！硬件马上就要跟不上啦！我们人类可能要养不起AI了！
近日，来自MIT FutureTech的研究人员发表了一项关于大模型能力增长速度的研究，
结果表明：LLM的能力大约每8个月就会翻一倍，速度远超摩尔定律！
论文地址：https://arxiv.org/pdf/2403.05812.pdf
LLM的能力提升大部分来自于算力，而摩尔定律代表着硬件算力的发展，
——也就是说，随着时间的推移，终有一天我们将无法满足LLM所需要的算力！
如果那个时候AI有了意识，不知道会不会自己想办法找饭吃？
上图表示不同领域的算法改进对有效计算翻倍的估计。蓝点表示中心估计值或范围；蓝色三角形对应于不同大小（范围从1K到1B）的问题的倍增时间；紫色虚线对应于摩尔定律表示的2年倍增时间。
摩尔定律和比尔盖茨摩尔定律（Moore’s law）是一种经验或者观察结果，表示集成电路（IC）中的晶体管数量大约每两年翻一番。
1965年，仙童半导体（Fairc

原文链接：大模型增速远超摩尔定律！MIT最新研究：人类快要喂不饱AI了