大模型商用格局雏形初现:Tokens用量决高下,火山引擎问鼎2024

单日万亿商用Tokens消耗,大模型落地开始规模化

大模型商用格局雏形初现:Tokens用量决高下,火山引擎问鼎2024

原标题:大模型商用格局雏形初现:Tokens用量决高下,火山引擎问鼎2024
文章来源:量子位
内容字数:7415字

大模型应用落地:Tokens消耗量成为关键指标

量子位最新文章指出,2024年下半年,国内大模型商用落地日均Tokens消耗量暴增,从1000亿级跃升至10000亿级,月复合增长率达到45%。这标志着大模型应用进入大规模商用落地阶段,生产力释放的同时也带来了巨大的商业机遇。

1. Tokens消耗量:衡量大模型应用落地的关键指标

文章强调,Tokens作为大模型理解和生成的最小单位,已成为衡量大模型能力和商业价值的关键指标。它可以反映模型预训练规模、理解能力、推理算力,甚至直接用于API定价。目前,云厂商已将日均Tokens消耗量作为衡量自身大模型服务能力的重要指标。

2. 火山引擎领跑Tokens消耗量增长

数据显示,火山引擎在Tokens消耗量增长方面表现突出,月均复合增长率超过60%,12月日均Tokens市场份额占比超过50%,远超其他厂商。其自研模型豆包,日均Tokens使用量更是超过4万亿,七个月增长33倍,并以5998万月活位居全球AI原生应用月活榜第二。

3. AI原生应用爆发驱动Tokens消耗量增长

Tokens消耗量暴增的核心驱动力是AI原生应用的爆发式增长。2024年1月至10月,中国AI原生应用累计下载量已达1.8亿。RAG、智能体、多模态技术的兴起,进一步拓宽了大模型应用场景,加速了整体增长。

4. 大模型落地周期缩短,成本下降,加速市场增长

文章指出,大模型落地周期缩短至6-18个月,且成本持续下降,使得千行百业对大模型的需求日益强烈。互联网、金融、智能终端、游戏等领域已开始规模化应用,进一步推动了Tokens消耗量的增长。

5. 未来展望:Tokens消耗量持续增长,MaaS市场潜力巨大

文章预测,Tokens成本将进一步下降,规模化增长远未到达瓶颈。大模型训练成本增速放缓,算力提升以及云厂商模式优化,都将为未来持续增长提供支撑。火山引擎预测,2027年豆包每天Token消耗量将超过100万亿。MaaS市场也将呈现Agent加速应用、大小模型协同、工具链生态完善以及混合云部署模式等特点。

6. 总结:Tokens消耗量是观察大模型商用落地的重要窗口

通过分析Tokens消耗量,我们可以清晰地看到大模型应用落地的趋势和各厂商的竞争态势。目前大模型正处于起跑阶段,未来发展潜力巨大,谁能成为引领者,值得持续关注。


联系作者

文章来源:量子位
作者微信:
作者简介:追踪人工智能新趋势,关注科技行业新突破

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...
第五届
全国人工智能大赛

总奖金超 233 万!

报名即将截止