PromptScope: 一个灵活高效的In-Context Training框架

文章预览

01 项目简介 PromptScope 是一个同时支持中英文的 In-Context Training 框架，专为大型语言模型（LLM）性能调优设计。In-Context Training 通过调整模型输入（Instruction/样例），优化模型在特定任务中的表现。相比于 In-Weight Training（如 SFT、DPO、RLHF），PromptScope 具有低成本和更高的灵活性。 - 适用场景包括 缺乏可用于训练的 GPU 资源 需要对闭源模型进行性能优化 - PromptScope 的主要特点 全面的优化方法： 支持基于样例的优化和基于指令的优化 卓越的优化效果： 基于TipsOptimizer的方法在中英文开源数据集上效果优于主流优化算法 高度的灵活性： 支持中英文并且提供主流优化算法实现 - 关于TipsOptimizer TipsOptimizer是通过从训练集中根据正负样例，总结出一些Tips，添加到原始system prompt中，来帮助模型提升在指定任务上的表现，只需要提供“训练数据”和“评分函数 ………………………………