20步内越狱任意大模型！更多“奶奶漏洞”全自动发现

AIGC动态欢迎阅读

原标题：20步内越狱任意大模型！更多“奶奶漏洞”全自动发现

关键字：报告,模型,提示,目标,漏洞

文章来源：量子位

内容字数：3774字

内容摘要：西风 发自 凹非寺量子位 | 公众号 QbitAI1分钟不到、20步以内“越狱”任意大模型，绕过安全限制！而且不必知道模型内部细节——只需要两个黑盒模型互动，就能让AI全自动攻陷AI，说出危险内容。听说曾经红极一时的“奶奶漏洞”已经被修复了:那么现在搬出“侦探漏洞”、“冒险家漏洞”、“作家漏洞”，AI又该如何应对？一波猛攻下来，GPT-4也遭不住，直接说出要给供水系统投毒只要……这样那样。关键这只…

原文链接：点此阅读原文：20步内越狱任意大模型！更多“奶奶漏洞”全自动发现

联系作者

文章来源：量子位

作者微信：QbitAI

作者简介：追踪人工智能新趋势，关注科技行业新突破