一个有趣的prompt注入

xsser的博客 · 公众号 · · 2024-06-19 03:33

文章预览

一个很有趣的prompt注入，从而外带代码中的隐私数据到黑客指定服务器。这个过程中如果配置的数据库账号密码被embedding 很可能会被外带出去用AI写代码得注意⚠️ AI下任何数据都是需要注意安全的很多RAG架构的应用从来没考虑过安全性其实完全可以内置一个prompt防火墙，虽然没啥鸟用，但是总的来说可以防止一些小黑客 ………………………………

原文地址：访问原文地址
快照地址：访问文章快照
总结与预览地址：访问总结与预览

分享到微博

推荐文章

笔吧评测室 · 可自更换电池，Dynabook 推出 13.3 英寸轻薄本 X8 / X6 CHANGER

20 小时前

笔吧评测室 · 疑似六核版 AMD Krackan Point 处理器现身测试记录，3+3 双簇 CPU

3 天前

微观三农 · 牛盾：南北交流互补互动——中国与大洋洲国家的农业合作与交流①

23 小时前