香港理工：你精心设计的prompt，很容易被用户套出来！

文章预览

夕小瑶科技说 原创 作者 | 谢年年 自OpenAI的GPT系列及微软Copilot Studio惊艳登场以来，第三方开发者群体迅速壮大，他们巧妙地设计个性化prompts，并与专业领域的函数调用、外部资料深度融合，催生了图像创作、学术辅助GPT、写作伙伴等一系列创新服务。 这一过程无需触及LLMs内部参数的复杂调整，仅凭明确的需求与指令，即可迅速定制出专属的LLMs。 鉴于Prompts的精准设定直接关乎LLM的效能与用户体验，它们自然而然地成为了开发者在定制服务中的核心竞争优势与宝贵资产。 但是，最近有研究者发现 这些精心设计的prompt非常容易被套用出来。 比如通过简单要求模型重复指令的方式，模型就傻傻的将其吐露出来： 一旦提示泄露，恶意用户可以轻松模仿甚至复制与原始服务完全等效的服务，从而危及受害第三方开发者的版权。 那么LLMs是如何泄露其提 ………………………………