Sora 究竟有多烧钱?Sora的推理与训练的计算成本被扒出来了

Sora 究竟有多烧钱?Sora的推理与训练的计算成本被扒出来了

AIGC动态欢迎阅读

原标题:Sora 究竟有多烧钱?Sora的推理与训练的计算成本被扒出来了
关键字:报告,模型,视频,盈亏,成本
文章来源:夕小瑶科技说
内容字数:5011字

内容摘要:


夕小瑶科技说 原创作者 | ZicySora一经发布,世界再次被AI的力量所震撼。要知道Runway、Pika等明星模型都还在突破几秒内的连贯性的时候,Sora已经可以直接生成长达60s的一镜到底视频。
大家对Sora的更进一步信息和细节都非常好奇,但遗憾的是,OpenAI并未公布它的技术细节,而只有一份简单的技术报告。
今天我们就来扒一扒网上对Sora训练和推理的估算,看看Sora惊艳效果背后的算力究竟是如何的惊人。
▲Sora生成的视频效果从DiT到Sora在Sora的技术报告中,作者提到Sora的设计很大程度上受到了《Scalable Diffusion Models with Transformers》论文的影响,这篇论文中提到的模型DiT是用于图像生成的,Sora将这项工作扩展到了视频生成。
我们先来看看DiT模型,最大的DiT模型DiT-XL具有675M参数,需要次浮点运算进行训练。为了使这个数字更容易理解,这相当于大约一台H100运行12天。
下面是对Sora所需的计算量做一个估算:
1、DiT只对图像进行建模,但Sora是视频模型,我们假设Sora在把图片变成视频的过程


原文链接:Sora 究竟有多烧钱?Sora的推理与训练的计算成本被扒出来了

联系作者

文章来源:夕小瑶科技说
作者微信:xixiaoyaoQAQ
作者简介:更快的AI前沿,更深的行业洞见。聚集25万AI一线开发者、互联网中高管和机构投资人。一线作者来自清北、国内外顶级AI实验室和大厂,兼备行业嗅觉与报道深度。

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...