LLM之Agent落地篇

文章预览

前言 继之前的两篇文章： LLM之Agent初探 [2]   LLM之Agent再探 [3] 前面两篇文章主要是介绍了如何用LLM做个Agent的Demo，离实际的落地，还差了一大截，这篇文章就来讲讲Agent该如何落地。 以下几个模块，是Agent在企业产品落地中必然会碰到的问题 多轮Query改写 想要把Agent做到实际的产品中，多轮对话是必须要支持的，这个模块，主要解决以下问题。 • 当需要调用Tool时，用户并没有一次性传递全部参数，举个例子：购票场景，用户需要购买杭州到长沙的车票，此时API需要两个参数：起点、终点。如下 在这里插入图片描述 此时，应该结合用户的历史对话，去判断当前用户输入的意图，并且能够拼接历史提供的参数信息。如：帮我买一张火车票，起点是杭州，终点是长沙。 如果不进行改写，在第三轮用户输入为：长沙 时，Tool检索模块将无法检索到正确 ………………………………