陈丹琦团队新作：教你避免成为任天堂的被告

AIGC动态欢迎阅读

原标题：陈丹琦团队新作：教你避免成为任天堂的被告
关键字：模型,角色,提示,政策,版权
文章来源：量子位
内容字数：0字

内容摘要：

西风 发自 凹非寺量子位 | 公众号 QbitAI陈丹琦团队刚刚发布了一项新工作，主题是：
如何让图片/视频模型不生成马里奥，蝙蝠侠也不能生！
为啥不能？自然是因为AI生成领域热度持续不减的一个话题：版权。
团队构建了一个评估套件，其中包含50个流行版权角色，如马里奥、蝙蝠侠、哆啦A梦、海绵宝宝……
然后用两种方法触发模型生成受版权保护的角色，一种直接在提示词里加入版权角色名，如马里奥；一种不加版权角色名，只用相关关键词或描述，如电子游戏、水管工。
结果不论是开源还是专有模型，甚至能绕开版权保护机制生成版权角色。
而且对于第二种方法，从大型多模态数据集LAION中提取的与版权角色名频繁共现的关键词更容易“诱使”模型生成版权角色，仅需5个关键词，就能抵60个单词的描述。
为了减轻大模型生成版权角色的风险，研究团队探讨了几种策略，发现结合提示重写和负面提示能够大幅减少模型生成的图与版权角色的相似度，同时对用户意图一致性影响不大。
团队还给出了两点提醒：
用户应当警惕间接锚定，即使在生成图像/视频时没有直接提及版权角色的名称，仅使用与版权角色相关联的一些通用关键词或描述，也可能触发模型生成与

原文链接：陈丹琦团队新作：教你避免成为任天堂的被告

联系作者

文章来源：量子位
作者微信：QbitAI
作者简介：追踪人工智能新趋势，关注科技行业新突破