豆包大模型价格出炉!超高并发,“后付费”支持每分钟万次请求

AIGC动态6个月前发布 量子位
8 0 0

豆包大模型价格出炉!超高并发,“后付费”支持每分钟万次请求

AIGC动态欢迎阅读

原标题:豆包模型价格出炉!超高并发,“后付费”支持每分钟万次请求
关键字:模型,豆包,字节跳动,价格,火山
文章来源:量子位
内容字数:2578字

内容摘要:


允中 发自 凹非寺量子位 | 公众号 QbitAI近期,火山引擎官网更新了豆包大模型的定价详情,全面展示豆包通用模型不同版本、不同规格的价格信息。
在模型推理定价大幅低于行业价格的基础上,豆包通用模型的 TPM(每分钟Tokens)、RPM(每分钟请求数)均达到国内最高标准。以豆包主力模型pro-32k为例,价格比行业低99%,TPM限额则高达同规格模型的2.7倍到8倍。
△图:豆包系列模型“后付费”定价信息官方信息显示:在按照 Tokens 实际使用量计算费用的“后付费”模式下,豆包通用模型-pro、豆包通用模型-lite的32k及以下窗口版本,模型限流为10K RPM和800K TPM(以RPM和TPM其中之一到达上限为准)。国内其他主流模型的TPM限额大多在100K到300K之间,RPM则是在60到120区间,轻量级模型的RPM限额相对较高,但仅仅在300到500之间。
按照10K RPM限额计算,企业客户平均每秒可以同时调用167次豆包通用模型,从而满足绝大多数业务场景在生产系统的大模型应用需求。这一标准,已经达到OpenAI为高级别客户(Tier4及Tier5等级客户)提供的


原文链接:豆包大模型价格出炉!超高并发,“后付费”支持每分钟万次请求

联系作者

文章来源:量子位
作者微信:QbitAI
作者简介:追踪人工智能新趋势,关注科技行业新突破

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...