Apple Intelligence存重大安全缺陷，几行代码即可攻破！Karpathy发文提醒

AIGC动态欢迎阅读

原标题：Apple Intelligence存重大安全缺陷，几行代码即可攻破！Karpathy发文提醒
关键字：提示,指令,模型,政策,优先级
文章来源：新智元
内容字数：0字

内容摘要：

新智元报道编辑：耳朵乔杨
【新智元导读】Apple Intelligence上线在即，一小哥几行代码曝出Apple Intelligence安全缺陷。在2024年全球开发者大会 (WWDC) 上，Apple发布了将搭载在iOS 18.1中的AI功能Apple Intelligence。
眼看着10月即将正式上线了，有「民间高手」在MacOS 15.1提供的Beta测试版Apple Intelligence中发现重大缺陷。
开发人员Evan Zhou使用提示注入成功操纵了Apple Intelligence，绕过了预期指令让AI能对任意提示做出响应。
事实证明，它与其他基于大语言模型的AI系统一样，容易受到「提示词注入攻击」。开发人员Evan Zhou 在YouTube视频中演示了此漏洞。
什么是提示词注入攻击？有一个组织叫OWASP，也就是开放全球应用安全项目，他们分析了大语言模型可能面临的主要漏洞。猜猜他们排名第一的是什么？没错，就是提示词注入。
提示词注入攻击 (Prompt Injection Attack) 是一种新型的攻击方式，具有有不同的形式，包括提示词注入、提示词泄露

原文链接：Apple Intelligence存重大安全缺陷，几行代码即可攻破！Karpathy发文提醒