抱抱脸🤗 新功能：提示词模板和Agent

文章预览

unset unset 提示词模板 unset unset https://huggingface.co/docs/transformers/main/chat_templating 聊天 是 LLMs（大语言模型）越来越常见的用例之一。在聊天场景中，模型不会继续单个文本字符串（如标准语言模型中那样），而是会继续包含一个或多个 消息 的对话，每个消息包括一个 角色 ，例如“用户”或“助手”，以及消息文本。 类似于标记化，不同的模型对聊天的输入格式有不同的期望。这就是我们添加 聊天模板 这一特性的原因。聊天模板是分词器的一部分，它们指定如何将对话（表示为消息列表）转换为单个可标记的字符串格式，以符合模型的期望。 让我们通过一个使用 BlenderBot 模型的快速示例来具体说明这一点。BlenderBot 有一个非常简单的默认模板，它主要在对话轮次之间添加空格： >>>  from  transformers  import  AutoTokenizer >>>  tokenizer = AutoTokenizer.from_ ………………………………