何恺明谢赛宁团队步步解构扩散模型，最后竟成经典去噪自编码器

AIGC动态欢迎阅读

原标题：何恺明谢赛宁团队步步解构扩散模型，最后竟成经典去噪自编码器
关键字：噪声,模型,表征,编码器,图像
文章来源：机器之心
内容字数：11726字

内容摘要：

机器之心报道
编辑：Panda去噪扩散模型（DDM）是当前图像生成技术的一大主流方法。近日，Xinlei Chen、Zhuang Liu、谢赛宁与何恺明四人团队对 DDM 进行了解构研究 —— 通过层层剥离其组件，DDM 的生成能力不断下降，但其表征学习能力却能得到一定的维持。这表明 DDM 的某些组件可能对表征学习作用不大。
对于当前计算机视觉等领域的生成模型，去噪是一种核心方法。这类方法常被称为去噪扩散模型（DDM）—— 它们会学习一个去噪自动编码器（DAE），其能通过一个扩散过程移除多个层级的噪声。
这些方法实现了出色的图像生成质量，尤其适合生成高分辨率、类似照片的仿真实图像。事实上，这些生成模型的表现如此之好，以至于看起来它们就好像具有强大的识别表征，可以理解这些视觉内容。
尽管 DAE 是当今生成模型的中流砥柱，但提出这种方法的最早论文《Extracting and composing robust features with denoising autoencoders》却是为了以监督式方法从数据学习表征。
在当今的表征学习社区，可以说 DAE 最成功的变体都是基于「掩码噪

原文链接：何恺明谢赛宁团队步步解构扩散模型，最后竟成经典去噪自编码器