向ChatGPT植入恶意“长期记忆”，持续窃取用户输入数据

文章预览

研究员发现，只需诱导目标用户操作ChatGPT访问特定文档或网页，即可利用间接提示注入向“记忆”功能植入恶意内容； 更进一步，通过更复杂的定制内容网页，研究员还可让ChatGPT后续将所有输入和输出数据都转发至攻击者处； 用户需定期检查“记忆”功能，查看是否有不信任的内容被植入。 安全内参9月26日消息，安全研究员Johann Rehberger近期报告了一个ChatGPT漏洞。该漏洞允许攻击者在用户的长期记忆设置中存储虚假信息和恶意指令。OpenAI迅速关闭了问题报告，称其为安全（Safety）问题，而非技术意义上的安全（Security）漏洞。 面对这一情况，Rehberger做了所有优秀研究员都会做的事情：他利用该漏洞创建了一个概念验证（PoC）攻击，能够永久提取用户的所有输入。OpenAI的工程师注意到这一点，并于本月早些时候对该问题进行了部分修复。 回顾漏 ………………………………