想训练类Sora模型吗？尤洋团队OpenDiT实现80%加速

AIGC动态欢迎阅读

原标题：想训练类Sora模型吗？尤洋团队OpenDiT实现80%加速
关键字：报告,模型,序列,方法,参数
文章来源：机器之心
内容字数：9742字

内容摘要：

机器之心报道
机器之心编辑部作为 2024 开年王炸，Sora 的出现树立了一个全新的追赶目标，每个文生视频的研究者都想在最短的时间内复现 Sora 的效果。
根据 OpenAI 披露的技术报告，Sora 的核心技术点之一是将视觉数据转化为 patch 的统一表征形式，并通过 Transformer 和扩散模型结合，展现了卓越的扩展（scale）特性。在报告公布后，Sora 核心研发成员 William Peebles 和纽约大学计算机科学助理教授谢赛宁合著的论文《Scalable Diffusion Models with Transformers》就成了众多研究者关注的重点。大家希望能以论文中提出的 DiT 架构为突破口，探索复现 Sora 的可行路径。
最近，新加坡国立大学尤洋团队开源的一个名为 OpenDiT 的项目为训练和部署 DiT 模型打开了新思路。
OpenDiT 是一个易于使用、快速且内存高效的系统，专门用于提高 DiT 应用程序的训练和推理效率，包括文本到视频生成和文本到图像生成。项目地址：https://github.com/NUS-HPC-AI-Lab/Open

原文链接：想训练类Sora模型吗？尤洋团队OpenDiT实现80%加速