DSPy（声明式自改进语言程序），面向大模型编程的新方法，克服当前LLM应用开发的诸多缺点

文章预览

Prompt（提示），实质上是一段自然语言文本，它极大 地 降低了操纵模型的复杂度，对于AI应用普及带来了极大的推动。 然而，当下以langchain、llamaindex为代表的过程式的LLM应用开发框架却也存在着一些问题。 首先，LLM 对不同的Prompt反应非常敏感，再加上应用Pipeline或者Chain围绕prompt构建，因此提示间微小的差异都会带来很大的影响（比如加个尊称 ），十分脆弱，开发过程中不得不小心进行调试验证。其次，由于自然语言的模式导致代码繁琐，维护困难，当然基于此也出现了prompt模板这样的缓解措施，但仍然不够优雅。再次，随着模型及提示技术发展，原来的提示需要同步迭代优化，而原来的方式想要完成这样的工作，却非常困难。因为，往往LLM应用的业务流程与Prompt本身耦合在一起，每次更改Pipeline、LLM 或数据时，所有Prompt，甚至微调流程都需要 ………………………………