文章预览
这次Llama 3.1发布大家期待较多的是405B模型,但 工具调用 才是大模型落地的重头戏, Meta 这次也开源了一个专门的框架: llama-agentic-system。 运行Llama 3.1作为能够执行“ A gentic ”任务的系统,例如: 将任务分解并执行多步骤推理 使用工具的能力 内置:模型具有搜索或代码解释器等工具的内置知识 零样本:模型可以学习使用以前未见过的上下文工具定义来调用工具 同时在 Llama3.1 的文档里也详细的写了完整的提示语法和工具调用方法,分 内置 和 自定义调用 两种方式: 内置 brave_search(联网搜索) wolfram_alpha(数学工具) code interpreter system(代码解释器) 自定义工具调用,模型本身并不直接执行调用,而是通过结构化输出来让执行器完成调用,格式与 OpenAI 的类似 内置示例 使用以下prompt调用三个内置工具: Brave Search:用于执行网络搜索的
………………………………