专栏名称: 量子位
վ'ᴗ' ի 追踪AI行业和技术动态,这里更快一步!关注我们,回复“今天”,更多大新闻等你来发现
今天看啥  ›  专栏  ›  量子位

ChatGPT曝严重漏洞,聊天记录黑客随意看,网友:本地运行也没用

量子位  · 公众号  · AI  · 2024-10-01 19:10

文章预览

西风 发自 凹非寺 量子位 | 公众号 QbitAI ChatGPT 长期记忆功能 出现严重漏洞! 黑客利用漏洞,一能给AI植入 虚假记忆 ,在后续回答中出现误导信息。二能植入 恶意指令 ,持续获取用户聊天数据。 聊点啥都会被看光光。 更可怕的是,即使开始新的对话,它仍阴魂不散,持续窃取数据。 而当你直接问ChatGPT 4o有没有窃取数据,它一口一个“怎么会?我没有” 电子邮件、文档、博客文章等内容都有可能成为植入“恶意记忆”的媒介,一旦植入就是 长久性 的。 职业安全研究员Johann Rehberger被曝五月份就发现了这个问题,还向OpenAI私下报告了这个漏洞。 但没被当回事儿,据说OpenAI最初将这个问题简单地归类为安全隐患,而非技术层面的安全漏洞,并匆匆结束了调查。 Rehberger随即开发了一个概念验证程序,利用这个漏洞 持续窃取用户的所有输入信息 ,Ope ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览