Apple Intelligence存重大安全缺陷,几行代码即可攻破!Karpathy发文提醒

AIGC动态3个月前发布 新智元
6 0 0

Apple Intelligence存重大安全缺陷,几行代码即可攻破!Karpathy发文提醒

AIGC动态欢迎阅读

原标题:Apple Intelligence存重大安全缺陷,几行代码即可攻破!Karpathy发文提醒
关键字:提示,指令,模型,政策,优先级
文章来源:新智元
内容字数:0字

内容摘要:


新智元报道编辑:耳朵 乔杨
【新智元导读】Apple Intelligence上线在即,一小哥几行代码曝出Apple Intelligence安全缺陷。在2024年全球开发者大会 (WWDC) 上,Apple发布了将搭载在iOS 18.1中的AI功能Apple Intelligence。
眼看着10月即将正式上线了,有「民间高手」在MacOS 15.1提供的Beta测试版Apple Intelligence中发现重大缺陷。
开发人员Evan Zhou使用提示注入成功操纵了Apple Intelligence,绕过了预期指令让AI能对任意提示做出响应。
事实证明,它与其他基于大语言模型的AI系统一样,容易受到「提示词注入攻击」。开发人员Evan Zhou 在YouTube视频中演示了此漏洞。
什么是提示词注入攻击?有一个组织叫OWASP,也就是开放全球应用安全项目,他们分析了大语言模型可能面临的主要漏洞。猜猜他们排名第一的是什么?没错,就是提示词注入。
提示词注入攻击 (Prompt Injection Attack) 是一种新型的攻击方式,具有有不同的形式,包括提示词注入、提示词泄露


原文链接:Apple Intelligence存重大安全缺陷,几行代码即可攻破!Karpathy发文提醒

联系作者

文章来源:新智元
作者微信:
作者简介:

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...