忘记Tool检索，拥抱全新Agent ToolGen！

主要观点总结

文章介绍了传统大模型工具调用方法的局限性，以及微软等提出的ToolGen框架的优势。ToolGen将工具知识直接整合到LLM参数中，通过生成独特虚拟标记来检索工具，提高了性能和可扩展性。文章还介绍了ToolGen的三个训练阶段、推理方法、数据集示例和推理示例。

关键观点总结

关键观点1: 传统大模型工具调用的局限性

传统方法依赖于将工具描述作为上下文输入，受上下文长度限制，需要单独的检索机制，效率较低。

关键观点2: ToolGen框架的优势

ToolGen将工具知识直接整合到LLM中，通过生成虚拟标记来检索工具，提高了性能和可扩展性。

关键观点3: ToolGen的三个训练阶段

工具记忆、检索训练、端到端代理调优三个阶段使模型能够关联虚拟工具标记与文档，基于用户查询生成相关工具标记，并使用代理完成任务。

关键观点4: ToolGen的推理方法

使用受限的束搜索生成策略来减少动作生成步骤中的幻觉。

关键观点5: ToolGen的实验结果

在超过47,000个工具的实验中，ToolGen在工具检索和自主任务完成方面取得了优越的结果。

文章预览

传统大模型工具 调用 的方法 依赖于将工具描述作为上下文输入，这受到上下文长度的限制，并需要单独的、通常效率低下的检索机制。 之前基于检索的方法与ToolGen之间的比较 。以前的方法使用检索器根据相似性匹配检索相关工具，这些工具进一步被放入提示中供LLMs选择。ToolGen可以通过直接生成工具标记来检索工具。ToolGen也可以在不依赖任何外部检索器的情况下完成任务。 为此，微软等提出 ToolGen ，这是一种将工具知识直接整合到LLM参数中的范式转变，将 每个工具表示为大型语言模型（LLM）词汇表中的一个独特虚拟标记（token），将工具检索和执行集成到LLM的生成过程中。 ToolGen框架的说明 。在工具虚拟化中，工具被映射到虚拟标记中。在接下来的三阶段训练中，ToolGen首先通过基于文档预测工具标记来 记忆工具 。然后它学习通过从查询中预 ………………………………