向ChatGPT植入恶意“长期记忆”，持续窃取用户输入数据

文章预览

关注我们 带你读懂网络安全 研究员发现，只需诱导目标用户操作ChatGPT访问特定文档或网页，即可利用间接提示注入向“记忆”功能植入恶意内容； 更进一步，通过更复杂的定制内容网页，研究员还可让ChatGPT后续将所有输入和输出数据都转发至攻击者处； 用户需定期检查“记忆”功能，查看是否有不信任的内容被植入。 前情回顾· 大模型安全动态 OpenAI反复修补未果的ChatGPT数据泄露漏洞是什么？ 破解大模型安全护栏，让ChatGPT回答限制级问题 警惕！全球APT组织正在使用大模型辅助网络攻击 如何操纵AI大模型？研究发现一种隐蔽的供应链投毒方法 安全内参9月26日消息，安全研究员Johann Rehberger近期报告了一个ChatGPT漏洞。该漏洞允许攻击者在用户的长期记忆设置中存储虚假信息和恶意指令。OpenAI迅速关闭了问题报告，称其为安全（Safety）问题，而非 ………………………………