OpenAI反复修补未果的ChatGPT数据泄露漏洞是什么？

AIGC动态欢迎阅读

原标题：OpenAI反复修补未果的ChatGPT数据泄露漏洞是什么？
关键字：报告,数据,研究员,恶意,漏洞
文章来源：人工智能学家
内容字数：3021字

内容摘要：

来源：安全内参
编译：安全内参通过定制恶意GPT或者提供恶意提示词给用户使用，攻击者可以用户使用ChatGPT的对话详情等信息。安全内参12月22日消息，OpenAI已经采取缓解措施，修补了ChatGPT可将对话详情泄漏到外部URL的数据泄露漏洞。
但发现该漏洞的研究人员认为，目前的缓解措施并不完美，在特定条件下攻击者仍然可以利用漏洞。
此外，ChatGPT尚未对iOS端应用进行安全检查，因此该平台上的风险仍未解决。数据泄漏问题2023年4月，安全研究员Johann Rehberger发现了一种从ChatGPT数据的方法，并向OpenAI报告了这一问题。11月，研究员进一步分享了创建恶意GPT模型的方法，利用此漏洞向用户发动钓鱼攻击等额外信息。
研究员在披露文章中写道，“11月13日，我当即将这个GPT和底层指令报告给了OpenAI。然而，报告工单在11月15日被标记为‘不适用’。我进行了两次后续查询，都未得到回复。所以，我选择与公众分享信息，让大家提高警惕。”
GPTs是一种定制化人工智能模型，被称作“AI应用”。GPT可以扮演类似客户支持代理的角色，比如辅助写作和翻译、分析

原文链接：OpenAI反复修补未果的ChatGPT数据泄露漏洞是什么？

联系作者

文章来源：人工智能学家
作者微信：AItists
作者简介：致力成为权威的人工智能科技媒体和前沿科技研究机构