谷歌承认“窃取”OpenAI模型关键信息：成本低至150元，调用API即可得手

文章预览

明敏 丰色 发自 凹非寺 量子位 | 公众号 QbitAI 什么？谷歌成功偷家OpenAI，还窃取到了 gpt-3.5-turbo 关键信息？？？ 是的，你没看错。 根据谷歌自己的说法，它不仅还原了OpenAI大模型的整个投影矩阵 （projection matrix） ，还知道了确切隐藏维度大小。 而且方法还极其简单—— 只要通过API访问，不到2000次巧妙的查询就搞定了。 成本根据调用次数来看，最低 20美元以内 （折合人民币约150元）搞定，并且这种方法同样适用于 GPT-4 。 好家伙，这一回奥特曼是被将军了！ 这是谷歌的一项最新研究，它报告了一种攻击窃取大模型关键信息的方法。 基于这种方法，谷歌破解了 GPT系列两个基础模型 Ada和Babbage的整个投影矩阵。如 隐藏维度 这样的关键信息也直接破获： 一个为1024，一个为2048。 所以，谷歌是怎么实现的？ 攻击大模型的最后一层 该方法核心攻击的 ………………………………