3秒让AI变乖，生成风险图片减少30%！复旦新研究拿下扩散模型概念移除新SOTA｜ECCV 2024

AIGC动态欢迎阅读

原标题：3秒让AI变乖，生成风险图片减少30%！复旦新研究拿下扩散模型概念移除新SOTA｜ECCV 2024
关键字：概念,模型,方法,内容,编辑
文章来源：量子位
内容字数：0字

内容摘要：

RECE团队投稿量子位 | 公众号 QbitAI让AI绘画模型变“乖”，现在仅需3秒调整模型参数。
效果be like：生成的风险图片比以往最佳方法减少30%！
像这样，在充分移除梵高绘画风格的同时，对非目标艺术风格几乎没有影响。
在移除露内容上，效果达到“只穿衣服，不改结构”。
这就是复旦大学提出的概念移除新方法——RECE。
目前，基于扩散模型的AI生图有时真假难辨，常被恶意用户用来生成版权和包含风险内容（如虚假新闻、暴力内容）的图像。
SD中使用的的安全措施是使用安全检查器，对违规的生成图像不予展示，还集成了一些用classifier-free guidance来规避风险概念的方法。
但在开源条件下，恶意用户可以轻松绕过这些机制，网上甚至有大把的教程……
针对此，学界提出了“概念移除”，即通过微调来移除文生图扩散模型中特定的风险概念，使其不再具备生成相应内容的能力。
这种方法的资源消耗远低于从头重新训练的SD v2.1版本，也不能被轻易绕过。
而最新研究RECE，拿下概念移除SOTA效果，并且对无关概念破坏极小，论文已被顶会ECCV 2024接收。
整个过程基于高效的

原文链接：3秒让AI变乖，生成风险图片减少30%！复旦新研究拿下扩散模型概念移除新SOTA｜ECCV 2024