提示作为程序：一种编译时结构-觉察高效提示优化的方法

文章预览

24年5月来自微软研究院的论文“Prompts As Programs: A Structure-Aware Approach to Efficient Compile-Time Prompt Optimization”。 大语言模型 (LLM) 现在可以处理更长、更复杂的输入，从而有助于使用更复杂的提示。但是，提示通常需要进行一些调优才能提高部署性能。最近的研究提出了自动提示优化方法，但随着提示复杂性和 LLM 强度的增加，许多提示优化技术已不够，需要一种新的方法来优化元提示程序。为了解决这个问题，SAMMO，用于编译时优化元提示程序的框架，它将提示表示为结构化目标，允许在优化期间搜索一组丰富的转换。 代码开源 https://github.com/microsoft/sammo SAMMO 是一种通用的提示程序编译时优化框架。各个操作和提示部分用一个调用图中的组件表示，其精神类似于 DSpy （Khattab，2023）。然而，SAMMO 超越了之前的工作，(i) 允许更改调用图 (ii) 表示提示的 ………………………………