AI太强，验证码全失效？新南威尔士全新设计：GPT傻傻认不出，人类一致好评

原标题：AI太强，验证码全失效？新南威尔士全新设计：GPT傻傻认不出，人类一致好评
文章来源：新智元
内容字数：7345字

新型验证码IllusionCAPTCHA：利用视觉错觉对抗AI攻击

随着人工智能技术的飞速发展，传统的验证码越来越难以抵御AI的攻击。为了解决这一问题，新南威尔士大学、南洋理工大学等机构的研究人员提出了一种新型验证码——IllusionCAPTCHA，它巧妙地利用了人类与AI在视觉感知上的差异，有效提高了验证码的安全性，同时提升了用户体验。

1. 传统验证码的困境

传统的验证码主要依赖文本扭曲、图像分类或逻辑推理来区分人类和机器。然而，随着大型语言模型（LLM）如GPT-4和Gemini的出现，这些方法逐渐失效。LLM能够以高成功率传统的验证码，导致验证码的安全性严重下降，同时，复杂的验证码也给用户带来了糟糕的体验。

2. IllusionCAPTCHA的工作原理

IllusionCAPTCHA的设计灵感来源于人类视觉错觉。它通过一个三阶段的生成框架来创建验证码：

创建视觉错觉：将基础图像与用户定义的提示词融合，生成一种视觉错觉图像。该图像看起来像提示词描述的物体，从而隐藏了基础图像的真实内容。人类可以轻松识别，而AI则容易被误导。
生成选项：基于修改后的图像生成多个选项，形成一个多项选择题。这避免了仅仅依赖错觉图像可能导致的不足。
引入诱导性提示：设计诱导性提示，引导基于LLM的攻击者选择预设的错误选项。这进一步提高了验证码的安全性。

IllusionCAPTCHA的生成过程利用了ControlNet等技术，确保生成的图像既便于人类识别，又令自动系统难以解释。为了提高可识别性，研究人员设计了基于文本和基于图像两种类型的验证码。

3. 选项设计与诱导策略

IllusionCAPTCHA的选项设计经过精心策划，以防范基于LLM的攻击。四个选项中，一个为正确答案，一个为生成图像的提示词，其余两个为对提示词的详细描述，但刻意避免包含正确答案。这种设计使得用户更容易识别正确答案，提升了用户体验。

诱导性提示的设计基于实证研究，利用LLM容易产生冗长且详细描述的特性，引导其选择描述视觉错觉元素的选项，从而提高其选择错误答案的概率。

4. 实验结果与结论

实验结果表明，LLM在识别带有视觉错觉的文本和图像时的成功率均为0%。而人类的识别率则高达83%（文本错觉）和88%（图像错觉）。诱导性话术也成功地引导了LLM选择错误答案。IllusionCAPTCHA的用户通过率分析显示，86.95%的用户能够在首次尝试时成功通过CAPTCHA，表明该验证码在安全性与可用性上均优于现有方法。

IllusionCAPTCHA为验证码技术提供了新的思路，它有效地利用了人类和AI在认知能力上的差异，为对抗日益强大的AI攻击提供了新的武器。