谷歌承认“”OpenAI模型关键信息：成本低至150元，调用API即可得手

AIGC动态欢迎阅读

原标题：谷歌承认“”OpenAI模型关键信息：成本低至150元，调用API即可得手
关键字：模型,腾讯,报告,维度,信息
文章来源：量子位
内容字数：3818字

内容摘要：

明敏 丰色 发自 凹非寺量子位 | 公众号 QbitAI什么？谷歌成功偷家OpenAI，还到了gpt-3.5-turbo关键信息？？？
是的，你没看错。
根据谷歌自己的说法，它不仅还原了OpenAI大模型的整个投影矩阵（projection matrix），还知道了确切隐藏维度大小。
而且方法还极其简单——
只要通过API访问，不到2000次巧妙的查询就搞定了。
成本根据调用次数来看，最低20美元以内（折合人民币约150元）搞定，并且这种方法同样适用于GPT-4。
好家伙，这一回奥特曼是被将军了！
这是谷歌的一项最新研究，它报告了一种攻击大模型关键信息的方法。
基于这种方法，谷歌了GPT系列两个基础模型Ada和Babbage的整个投影矩阵。如隐藏维度这样的关键信息也直接破获：
一个为1024，一个为2048。
所以，谷歌是怎么实现的？
攻击大模型的最后一层该方法核心攻击的目标是模型的嵌入投影层（embedding projection layer），它是模型的最后一层，负责将隐藏维度映射到logits向量。
由于logits向量实际上位于一个由嵌入投影层定义的低维子空间内，

原文链接：谷歌承认“”OpenAI模型关键信息：成本低至150元，调用API即可得手

联系作者

文章来源：量子位
作者微信：QbitAI
作者简介：追踪人工智能新趋势，关注科技行业新突破