文章预览
点击上方 蓝字 关注我 本文：5100字阅读 12分钟 提示词优化的困境 有不少朋友认为，提示词工程没有前途。但扎心的事实是，提示词（Prompt）的设计和优化已经成为影响模型性能的关键因素。无论是在数学推理、常识判断还是逻辑分析等任务中，一个精心设计的提示词往往能让模型的表现有质的飞跃。然而，目前业界普遍认为，只有像GPT-4o或者Claude sonnet这样的超大规模语言模型才能胜任提示词优化的任务。这导致了一个尴尬的现实：为了优化小模型的提示词，我们不得不求助于计算成本高昂的大模型。这种依赖不仅增加了开发成本，还限制了小模型的应用场景。 Pennsylvania State University和Salesforce Research的研究团队提出了一个很有潜力的观点：通过巧妙地利用梯度信息，小型语言模型也能成为出色的提示词优化器。他们开发的GREATER（GRadiEnts ovEr ReAso
………………………………
