单日万亿商用Tokens消耗,大模型落地开始规模化
大模型应用落地:Tokens消耗量成为关键指标
量子位最新文章指出,2024年下半年,国内大模型商用落地日均Tokens消耗量暴增,从1000亿级跃升至10000亿级,月复合增长率达到45%。这标志着大模型应用进入大规模商用落地阶段,生产力释放的同时也带来了巨大的商业机遇。
1. Tokens消耗量:衡量大模型应用落地的关键指标
文章强调,Tokens作为大模型理解和生成的最小单位,已成为衡量大模型能力和商业价值的关键指标。它可以反映模型预训练规模、理解能力、推理算力,甚至直接用于API定价。目前,云厂商已将日均Tokens消耗量作为衡量自身大模型服务能力的重要指标。
2. 火山引擎领跑Tokens消耗量增长
数据显示,火山引擎在Tokens消耗量增长方面表现突出,月均复合增长率超过60%,12月日均Tokens市场份额占比超过50%,远超其他厂商。其自研模型豆包,日均Tokens使用量更是超过4万亿,七个月增长33倍,并以5998万月活位居全球AI原生应用月活榜第二。
3. AI原生应用爆发驱动Tokens消耗量增长
Tokens消耗量暴增的核心驱动力是AI原生应用的爆发式增长。2024年1月至10月,中国AI原生应用累计下载量已达1.8亿。RAG、智能体、多模态技术的兴起,进一步拓宽了大模型应用场景,加速了整体增长。
4. 大模型落地周期缩短,成本下降,加速市场增长
文章指出,大模型落地周期缩短至6-18个月,且成本持续下降,使得千行百业对大模型的需求日益强烈。互联网、金融、智能终端、游戏等领域已开始规模化应用,进一步推动了Tokens消耗量的增长。
5. 未来展望:Tokens消耗量持续增长,MaaS市场潜力巨大
文章预测,Tokens成本将进一步下降,规模化增长远未到达瓶颈。大模型训练成本增速放缓,算力提升以及云厂商模式优化,都将为未来持续增长提供支撑。火山引擎预测,2027年豆包每天Token消耗量将超过100万亿。MaaS市场也将呈现Agent加速应用、大小模型协同、工具链生态完善以及混合云部署模式等特点。
6. 总结:Tokens消耗量是观察大模型商用落地的重要窗口
通过分析Tokens消耗量,我们可以清晰地看到大模型应用落地的趋势和各厂商的竞争态势。目前大模型正处于起跑阶段,未来发展潜力巨大,谁能成为引领者,值得持续关注。
联系作者
文章来源:量子位
作者微信:
作者简介:追踪人工智能新趋势,关注科技行业新突破