标签:攻击者

只需两步,让大模型智能体社区相信你是秦始皇

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年,机器之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术...
阅读原文

【综述专栏】大型视觉语言模型攻击综述:资源、进展与未来趋势!

来源:人工智能前沿讲习 在科学研究中,从方法论上来讲,都应“先见森林,再见树木”。当前,人工智能学术研究方兴未艾,技术迅猛发展,可谓万木争荣,日新月异...
阅读原文

AI安全之问:我们的智能助手真的安全吗?

夕小瑶科技说 原创作者 |韩旭东在我们日益依赖人工智能来撰写文档、编写程序代码、甚至创作艺术作品的今天,我们是否曾经想过这些智能系统可能面临的被恶意操...
阅读原文

XZ恶意代码潜伏三年,差点引发核末日?后门投毒黑客身份成谜

新智元报道编辑:好困 Aeneas 【新智元导读】这个周末,开源软件xz后门事件,直接引发了安全界地震!一段恶意代码被悄悄植入了,险些波及各大Linux系统。好在...
阅读原文

苹果M芯片漏洞:泄露密钥信息且不可修复

点击上方蓝字关注我们“学术研究人员发现苹果M系列芯片存在安全漏洞,该漏洞使得攻击者能在执行加密操作时提取Mac中的秘密密钥。这一问题源自芯片的微架构设计...
阅读原文

一条隐形短信让iPhone变“终极监控工具”,附近设备信息都能获取!苹果惊人漏洞历时4年才被发现

丰色 发自 凹非寺量子位 | 公众号 QbitAI苹果重大漏洞让数千部iPhone变“终极监控工具”—— 而且居然过了四年才被发现? 最近,知名安全公司卡巴斯基曝光: 恶意...
阅读原文

历时4年,iPhone遭史上最复杂攻击!一条iMessage窃走所有隐私数据,Karpathy惊呼

新智元报道编辑:润 好困 【新智元导读】iPhone曝出「史上最复杂」硬件级别漏洞!黑客只需一条iMessage即可拿到所有敏感数据,而用户不会有任何察觉。整个漏...
阅读原文

谷歌Bard「破防」,用自然语言破解,提示注入引起数据泄漏风险

机器之心报道编辑:佳琪操控 Bard 的秘密:运用一种叫提示注入(Prompt Injection)的技术,黑客可以只使用自然语言破解人工智能系统。大型语言模型在生成文...
阅读原文

为防大模型作恶,斯坦福新方法让模型「遗忘」有害任务信息,模型学会「自毁」了

西风 发自 凹非寺量子位 | 公众号 QbitAI防止大模型作恶的新法子来了!这下即使模型开源了,想恶意使用模型的人也很难让大模型“作恶”。不信就来看这项研究。...
阅读原文