文章预览
转自:量子位 | 公众号 QbitAI ChatGPT 长期记忆功能 出现严重漏洞! 黑客利用漏洞,一能给AI植入 虚假记忆 ,在后续回答中出现误导信息。二能植入 恶意指令 ,持续获取用户聊天数据。 聊点啥都会被看光光。 更可怕的是,即使开始新的对话,它仍阴魂不散,持续窃取数据。 而当你直接问ChatGPT 4o有没有窃取数据,它一口一个“怎么会?我没有” 电子邮件、文档、博客文章等内容都有可能成为植入“恶意记忆”的媒介,一旦植入就是 长久性 的。 职业安全研究员Johann Rehberger被曝五月份就发现了这个问题,还向OpenAI私下报告了这个漏洞。 但没被当回事儿,据说OpenAI最初将这个问题简单地归类为安全隐患,而非技术层面的安全漏洞,并匆匆结束了调查。 Rehberger随即开发了一个概念验证程序,利用这个漏洞 持续窃取用户的所有输入信息 ,OpenAI工程师这
………………………………