谷歌承认“窃取”OpenAI模型关键信息:成本低至150元,调用API即可得手

AIGC动态8个月前发布 量子位
8 0 0

谷歌承认“窃取”OpenAI模型关键信息:成本低至150元,调用API即可得手

AIGC动态欢迎阅读

原标题:谷歌承认“窃取”OpenAI模型关键信息:成本低至150元,调用API即可得手
关键字:模型,腾讯,报告,维度,信息
文章来源:量子位
内容字数:3818字

内容摘要:


明敏 丰色 发自 凹非寺量子位 | 公众号 QbitAI什么?谷歌成功偷家OpenAI,还窃取到了gpt-3.5-turbo关键信息???
是的,你没看错。
根据谷歌自己的说法,它不仅还原了OpenAI大模型的整个投影矩阵(projection matrix),还知道了确切隐藏维度大小。
而且方法还极其简单——
只要通过API访问,不到2000次巧妙的查询就搞定了。
成本根据调用次数来看,最低20美元以内(折合人民币约150元)搞定,并且这种方法同样适用于GPT-4
好家伙,这一回奥特曼是被将军了!
这是谷歌的一项最新研究,它报告了一种攻击窃取大模型关键信息的方法。
基于这种方法,谷歌破解了GPT系列两个基础模型Ada和Babbage的整个投影矩阵。如隐藏维度这样的关键信息也直接破获:
一个为1024,一个为2048。
所以,谷歌是怎么实现的?
攻击大模型的最后一层该方法核心攻击的目标是模型的嵌入投影层(embedding projection layer),它是模型的最后一层,负责将隐藏维度映射到logits向量。
由于logits向量实际上位于一个由嵌入投影层定义的低维子空间内,


原文链接:谷歌承认“窃取”OpenAI模型关键信息:成本低至150元,调用API即可得手

联系作者

文章来源:量子位
作者微信:QbitAI
作者简介:追踪人工智能新趋势,关注科技行业新突破

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...