本地零阶提示优化

文章预览

本文探讨了如何优化大型语言模型（ LLM ）中的提示（ prompt ），以更有效地利用这些黑盒模型的能力。传统的优化方法倾向于寻找全局最优解，但在某些情况下这种做法可能表现不佳。通过对提示优化进行深入的研究，作者发现了两个重要洞见： 首先，相比于全局最优解的稀有性，局部最优解通常更加丰富且性能良好，这为高效的提示优化提供了更多可能性； 其次，输入域的选择（包括提示的生成和表示方式）会影响高性能局部最优解的识别。 受此启发，作者提出了一种名为 局部零阶提示优化（ Localized Zeroth-Order Prompt Optimization， ZOPO ） 的新算法，该算法将基于神经切线核推导的高斯过程与标准零阶优化相结合，以高效地搜索具有良好性能的局部最优解。实验结果表明， ZOPO 在优化性能和查询效率方面均优于现有基线方法。 1 局部零阶提示优化 ………………………………