克制大模型怪脾气的新招——基于意图的提示校准降低LLM提示敏感度问题，让大模型表现更稳定

文章预览

LLM应用较之于传统软件开发有范式改变，与传统软件只要代码正确，功能特性就能表现出一致稳定的特点相比，在LLM应用开发中，我们常常面临一个很大问题就是LLM对提示的措辞异常敏感，稍不注意可能之前运行良好的应用，瞬间垮塌，这样的特性带来的影响就是开发者在面对产品测试、功能扩展、模型升级，长尾场景处理等情况时被恐惧萦绕，变得谨小慎微。这就像是面对一个知识渊博但脾气古怪的朋友，需要小心翼翼，稍微改变问题的说法，就可能得到完全不同的反应。 例如，在进行电影评价时，"这部电影好看吗？"和"请评价这部电影的质量"这两个看似相似的问题，可能会导致AI给出截然不同的回答。更令人困扰的是，每次模型更新后，它对这些问题的理解又可能发生变化。这种不稳定性严重影响了LLM在实际应用中的可靠性。 基于意图的提 ………………………………