AI安全防线全面崩溃：Anthropic揭示的越狱技术震撼业界！

原标题：Anthropic 发现了一种 AI 越狱方法，安全护栏崩塌，文本视觉语音全部沦陷
文章来源：夕小瑶科技说
内容字数：4865字

引言

近年来，Best-of-N (BoN) 方法在大规模语言模型（LLM）领域引发热潮，多个研究机构纷纷提出基于该方法的创新技术。特别是Anthropic最近推出的“Best-of-N Jailbreaking”方法，再次引起了广泛关注，其强大的攻击能力让当前最先进的AI模型面临严峻挑战。

1. 什么是Best-of-N Jailbreaking？

Best-of-N Jailbreaking是一种通过重复尝试来攻破模型防御的策略。具体而言，攻击者通过反复修改输入，直到成功诱导模型生成有害内容。这种方法不需要对模型内部结构有任何了解，依赖于随机性和多次采样达到目的。

2. 攻击效果显著

研究显示，BoN Jailbreaking在文本、视觉和音频等多模态下均展现出高达89%的攻击成功率（ASR）。例如，在文本模态下，GPT-4o模型的ASR可达89%，即使仅采样100次，成功率仍可达到50%。在视觉和音频模态下，攻击成功率分别为67%和72%。

3. 跨模态攻击的优势

BoN Jailbreaking不仅限于文本攻击，还扩展到视觉和音频模态，通过改变图像字体、颜色，或在音频中增加背景噪音等方式，成功绕过模型防御。这种跨模态攻击的能力使得该方法具备了更强的威胁性。

4. 攻击成功率的幂律关系

研究者建立了BoN Jailbreaking的攻击成功率与采样次数之间的幂律关系模型，表明更多的尝试将显著提高成功率。这一发现为模型风险评估提供了新的思路，能够帮助防御者更有效地识别潜在风险。

5. 随机性是关键

BoN Jailbreaking的成功主要依赖于输入的随机性，提升了模型输出分布的熵值。这种随机性使得攻击者能够通过简单的字符变化等手段，增加攻击成功的可能性。实验表明，成功的攻击输入重采样时的成功率较低，主要依赖于运气而非模型的漏洞。

6. 复合式攻击的潜力

研究者发现，将BoN与其他越狱技术结合使用能够显著提升攻击效率。例如，结合Prefix PAIR前缀攻击后，文本模态的攻击成功率提升了28倍，音频模态的成功率甚至达到了87%。这表明，复杂的攻击方式能有效突破模型的防线。

总结

BoN Jailbreaking方法充分展示了AI模型在面对简单但有效的攻击策略时的脆弱性。未来，AI安全机制的改进仍需加强，以应对诸如BoN Jailbreaking等新兴威胁。该研究的发现提醒我们，防御AI模型的挑战依然艰巨。

联系作者

文章来源：夕小瑶科技说
作者微信：
作者简介：解码AI世界，硬核也可爱！聚集35万AI发烧友、开发者和从业者，广泛覆盖互联网大厂中高管、AI公司创始人和机构投资人。一线作者来自清北、国内外顶级AI实验室和大厂，兼备敏锐的行业嗅觉和洞察深度。商务合作：zym5189