GPT-4破防啦！用密码和GPT-4聊天，成功绕过了GPT-4的安全机制！港中大（深圳）告诉你方法

AIGC动态欢迎阅读

动态标题：GPT-4破防啦！用密码和GPT-4聊天，成功绕过了GPT-4的安全机制！港中大（深圳）告诉你方法

关键字：密码,作者,自然语言,模型,提示

文章来源：夕小瑶科技说

内容字数：5597字

内容摘要：夕小瑶科技说 原创作者 | 智商掉了一地你是否尝试过和GPT-4用密码聊天？近年来，大型语言模型（LLM）在推动人工智能系统发展中起到了关键作用。然而，确保LLM的响应安全和可靠性是一个重要挑战。安全是LLM开发的核心，而为了增强其安全性，已有大量的研究工作。然而，现有的工作主要集中在自然语言方面。最近有项研究发现，使用密码聊天可以绕过 LLM 的安全对齐技术。作者由此提出了一种名为CipherC…

原文链接：点此阅读原文：GPT-4破防啦！用密码和GPT-4聊天，成功绕过了GPT-4的安全机制！港中大（深圳）告诉你方法

联系作者

文章来源：夕小瑶科技说

作者微信：xixiaoyaoQAQ

作者简介：更快的AI前沿，更深的行业洞见。聚集25万AI应用开发者、算法工程师和研究人员。一线作者均来自清北、国外顶级AI实验室和互联网大厂，兼备媒体sense与技术深度。