大模型多烧钱？明星独角兽揭秘训练成本：明年或达100亿美元

AIGC动态欢迎阅读

原标题：大模型多烧钱？明星独角兽揭秘训练成本：明年或达100亿美元
关键字：模型,成本,报告,语言,半导体
文章来源：智东西
内容字数：5076字

内容摘要：

AI训练成本暴涨，小语言模型展现成本效益优势。
编译|Alyssa
编辑|Panken
智东西5月8日消息，据美国知名科技媒体VentureBeat报道，在近期测试中，一款新发布的大语言模型（LLM）似乎能“辨认”出自己正处于被评估状态，并对其处理信息的相关性作出评论。这引发了人们的猜想，这个反应可能是“元认知”的一个实例，即对自身思维过程的理解。这一大语言模型激发了关于AI自我意识潜力的讨论，但更值得关注的是，这说明随着规模变大，大模型可能会产生新的功能。
伴随而来的还有新兴能力和成本的急剧上升，目前这些成本已达到“天文数字”。正如半导体行业只有少数几家有能力负担最新数十亿美元芯片制造厂的公司，AI领域也可能很快被仅有的几家大型科技巨头及其合作伙伴所主导，只有它们能够承担开发类似GPT-4和Claude 3等最新大语言模型的巨额费用。
01.
AI模型训练成本指数级增长：下一个顶尖模型或需百亿美金！
随着最新模型训练成本的极速飙升，部分模型的能力已经达到甚至在某些情况下超过人类的水平。据斯坦福大学报告估计，最新的模型训练成本已逼近2亿美元。
▲AI系统在与人类表现相关的各种能力上的测

原文链接：大模型多烧钱？明星独角兽揭秘训练成本：明年或达100亿美元