一个有趣的prompt注入

xsser的博客 · 公众号 · · 2024-06-19 03:33

文章预览

一个很有趣的prompt注入，从而外带代码中的隐私数据到黑客指定服务器。这个过程中如果配置的数据库账号密码被embedding 很可能会被外带出去用AI写代码得注意⚠️ AI下任何数据都是需要注意安全的很多RAG架构的应用从来没考虑过安全性其实完全可以内置一个prompt防火墙，虽然没啥鸟用，但是总的来说可以防止一些小黑客 ………………………………

原文地址：访问原文地址
快照地址：访问文章快照
总结与预览地址：访问总结与预览

分享到微博

推荐文章

龙视新闻在线 · 高校聘请兼职教师，这些人可参与→

21 小时前

龙视新闻在线 · 高校聘请兼职教师，这些人可参与→

21 小时前

转化医学网 · 【最新日程】第六届上海国际癌症大会暨第五届中德双边论坛暨中国抗癌协会肿瘤转移专业委员会年会！

8 月前

北京德国文化中心歌德学院 · Rollenspielbasierter Workshop: Perspektivwechsel Zoo

4 月前

新法治报 · 22℃！但后面要下雪！江西接下来天气……

3 周前