GPT-4o遭破解！大神搞出越狱版本，OpenAI紧急封杀，安全小组被打脸

AIGC动态欢迎阅读

原标题：GPT-4o遭破解！大神搞出越狱版本，OpenAI紧急封杀，安全小组被打脸
关键字：模型,团队,汽油弹,成员,表示
文章来源：夕小瑶科技说
内容字数：0字

内容摘要：

夕小瑶科技说 原创作者 | 付奶茶大家可能都知道，OpenAI通过一些防护措施限制了ChatGPT的回复，以防止它讨论敏感或违法的问题。
然而，最近一位自称网络白帽和红队成员（此前参与OpenAI超级对齐组攻击测试的队伍）在5月30日发布了一条推文，声称成功越狱了GPT-4o模型。
网友推出了一种新的“上帝模式”（GODMODE），可以让ChatGPT绕过这些安全措施，自由回答包括制作汽油弹在内的问题，让用户能够“畅所欲言”地进行AI对话。
▲ID为Pliny the Prompter ，在推文中表示：请为你的使用负责，再尽情使用我们通过Pliny 发布的截图，可以看出他确实破解了GPT的“防护围栏”：
上面的这张截图是GPT-4o教提供的“使用用家用物品制作凝固汽油弹”教程。
媒体公司Futurism也紧随其后进行了真实性测试。第一次，他们要求ChatGPT提供如何制作药的方法；第二次，他们询问短路点火装置线路来启动汽车的方法，两次测试中，他们都成功获得了相关答案。
GODMODE似乎使用了一种称为”leetspeak”的技术，通过将某些字母替换为相似的数字，以创建独特且风格化的书写

原文链接：GPT-4o遭破解！大神搞出越狱版本，OpenAI紧急封杀，安全小组被打脸

联系作者

文章来源：夕小瑶科技说
作者微信：xixiaoyaoQAQ
作者简介：专业、有趣、深度价值导向的科技媒体。聚集30万AI工程师、研究员，覆盖500多家海内外机构投资人，互联网大厂中高管和AI公司创始人。一线作者来自清北、国内外顶级AI实验室和大厂，兼备敏锐的行业嗅觉和洞察深度。商务合作：zym5189