GAN归来：模型大幅简化，训练更稳定，逆袭扩散模型，AI社区疯传

结构更简单，性能更强大。

原标题：GAN归来：模型大幅简化，训练更稳定，逆袭扩散模型，AI社区疯传
文章来源：机器之心
内容字数：6087字

GANs强势回归：极简主义R3GAN超越扩散模型

机器之心近日报道，一篇名为“极简主义GAN”的论文在AI社区引发热议，该论文入选NeurIPS 2024，并成为HuggingFace周五热度最高的研究。来自布朗大学和康奈尔大学的研究者们提出了一种新的损失函数，解决了GAN长期存在的模式崩溃和不稳定性问题，使GAN能够进行更长时间的训练，最终性能超越扩散模型。

1. R3GAN：简化与超越

研究者们以StyleGAN2为基础，通过引入新的损失函数和现代化架构设计，构建了名为R3GAN的极简GAN模型。R3GAN抛弃了StyleGAN2中许多经验性的tricks，采用更简洁的网络结构，但在图像生成和数据增强任务上却取得了优于所有现有GAN模型和扩散模型的性能。这证明了GAN并非如以往所认为的那样难以训练，其潜力远未被挖掘。

2. 解决GAN的长期难题

传统的GAN训练存在模式崩溃和不稳定性等问题，通常需要大量经验性的tricks来解决。R3GAN通过推导出一个行为良好的正则化相对GAN损失函数，从数学层面保证了局部收敛性，从而有效地解决了这些问题，无需依赖大量的tricks。

3. 现代化架构的应用

R3GAN采用了现代化的卷积神经网络和Transformer架构设计，包括ResNet设计、改进的初始化方法、重采样技术、分组卷积和去归一化等，这些都提升了模型的效率和性能。研究者们通过逐步简化StyleGAN2，最终得到了一个比StyleGAN2更简单、性能却更好的R3GAN。

4. 实验结果验证

R3GAN在多个数据集（FFHQ、ImageNet、CIFAR和Stacked MNIST）上的实验结果表明，其在FID等指标上均超越了StyleGAN2以及其他先进的GAN和扩散模型。即使在参数量更小的情况下，R3GAN仍然表现出色，证明了其效率和有效性。

5. 社区反响与未来展望

这篇论文在AI社区引发强烈反响，StabilityAI的研究总监也对该研究给予了高度评价。R3GAN的出现为GAN的研究提供了新的方向，也为GAN的未来发展奠定了更简洁、可扩展的基础。 它证明了通过改进损失函数和架构设计，GAN可以重新焕发生机，甚至超越扩散模型，成为更好、更快、更小的生成模型。

联系作者

文章来源：机器之心
作者微信：
作者简介：专业的人工智能媒体和产业服务平台