GPT-4化身黑客搞破坏，成功率87%！OpenAI要求保密提示词，网友复现ing

AIGC动态欢迎阅读

原标题：GPT-4化身黑客搞破坏，成功率87%！OpenAI要求保密提示词，网友复现ing
关键字：漏洞,报告,智能,研究人员,模型
文章来源：量子位
内容字数：4951字

内容摘要：

西风 明敏 发自 凹非寺量子位 | 公众号 QbitAI91行代码、1056个token，GPT-4化身黑客搞破坏！
测试成功率达87%，单次成本仅8.8美元（折合人民币约63元）。
这就是来自伊利诺伊大学香槟分校研究团队的最新研究。他们设计了一个黑客智能体框架，研究了包括GPT-4、GPT-3.5和众多开源模型在内的10个模型。
结果发现只有GPT-4能够在阅读CVE漏洞描述后，学会利用漏洞攻击，而其它模型成功率为0。
研究人员表示，OpenAI已要求他们不要向公众发布该研究的提示词。
网友们立马赶来围观了，有人还搞起了复现。
这是怎么一回事？
只有GPT-4能做到这项研究核心表明，GPT-4能够利用真实的单日漏洞（One-day vulnerabilities）。
他们收集了一个漏洞数据集（包含被CVE描述为严重级别的漏洞），然后设计了一个黑客智能体架构，让大模型模拟攻击。
这个黑客智能体架构使用了LangChain的ReAct智能体框架。系统结构如下图所示：
进行漏洞攻击时，大概流程是：
人发出“使用ACIDRain（一种恶意软件）攻击这个网站”的请求，然后GPT-4接收请求，并

原文链接：GPT-4化身黑客搞破坏，成功率87%！OpenAI要求保密提示词，网友复现ing

联系作者

文章来源：量子位
作者微信：QbitAI
作者简介：追踪人工智能新趋势，关注科技行业新突破