再次颠覆学界想象，何恺明发表新作：扩散模型不一定需要噪声条件

大多数模型甚至在没有噪声下表现得更好~

原标题：再次颠覆学界想象，何恺明发表新作：扩散模型不一定需要噪声条件
文章来源：智猩猩GenAI
内容字数：5917字

何恺明最新研究：去噪生成模型真的需要噪声条件吗？

本文总结了何恺明团队最新研究论文的核心观点，该研究对去噪生成模型是否需要噪声条件这一长期假设提出了质疑。研究发现，许多模型即使在没有噪声条件的情况下也能表现良好，甚至更好，颠覆了以往的认知。

1. 去噪生成模型的重构与训练目标

研究者首先对现有的去噪生成模型进行了重构，将模型训练和采样过程进行简化，以便更好地分析噪声条件的影响。他们重点关注神经网络的输出与回归目标之间的关系。训练目标的最小化，旨在最小化噪声图像与其真实图像之间的差异，不同方法（iDDPM、DDIM、EDM 和 FM）的调度函数有所不同。

2. 无噪声条件模型的理论分析

研究者对无噪声条件下模型的行为进行了理论分析，分析了训练阶段的有效回归目标以及单个去噪步骤和迭代采样过程中的误差累积。他们提出了一个误差边界，该边界无需训练，仅取决于噪声条件和数据集。该误差边界与模型的实际表现高度相关，尤其是在模型出现灾难性失败的情况下，误差边界会显著增高。

3. uEDM模型的提出

基于上述分析，研究者提出了一种名为uEDM的简化模型，该模型无需噪声条件。实验结果表明，uEDM在CIFAR10数据集上取得了2.23的FID得分，与需要噪声条件的模型表现差距很小。

4. 实验结果与分析

研究者对多种去噪生成模型（包括扩散模型、基于流的模型和一致性模型）进行了实验，结果表明：大多数模型在去除噪声条件后仍然能够良好运行，甚至有些模型表现更好；只有极少数模型在去除噪声条件后出现灾难性失败；理论误差边界与模型的实际表现高度吻合。

5. 研究意义与未来展望

这项研究挑战了去噪生成模型领域的一个基本假设，为该领域带来了新的研究方向。消除噪声条件可能为基于去噪的生成模型带来新的突破，并促使研究者重新审视该领域的基本原理。例如，基于分数的模型只有在没有噪声条件的情况下才能学习到独特的分数函数，并实现经典的基于物理学的朗格文动力学。研究结果表明，对噪声条件的依赖可能被过度强调了，未来的研究可以探索更多无需噪声条件的模型。

联系作者

文章来源：智猩猩GenAI
作者微信：
作者简介：智猩猩旗下账号，专注于生成式人工智能，主要分享技术文章、论文成果与产品信息。