对 LLM 工具使用进行统一

文章预览

我们为 LLM 确立了一个跨模型的 统一工具调用 API 。有了它，你就可以在不同的模型上使用相同的代码，在 Mistral 、 Cohere 、 NousResearch 或 Llama 等模型间自由切换，而无需或很少需要根据模型更改工具调用相关的代码。此外，我们还在 transformers 中新增了一些实用接口以使工具调用更丝滑，我们还为此配备了 完整的文档 以及端到端工具使用的 示例 。我们会持续添加更多的模型支持。 Mistral https://hf.co/mistralai Cohere https://hf.co/CohereForAI NousResearch https://hf.co/NousResearch Llama https://hf.co/collections/meta-llama/llama-31-669fc079a0c406a149a5738f 完整的文档 https://huggingface.co/docs/transformers/main/en/chat_templating#advanced-tool-use--function-calling 端到端工具使用示例 https://github.com/huggingface/blog/blob/main/notebooks/unified-tool-calling.ipynb 引言 LLM 工具使用这个功能很有意思 —— 每个人都认为它 ………………………………