专栏名称: 爱可可-爱生活
知名互联网资讯博主 北邮PRIS模式识别实验室陈老师
今天看啥  ›  专栏  ›  爱可可-爱生活

【LogitsProcessors Zoo:NVIDIA开发的L-20241120131330

爱可可-爱生活  · 微博  · AI  · 2024-11-20 13:13
    

文章预览

2024-11-20 13:13 本条微博链接 【LogitsProcessors Zoo:NVIDIA开发的LLM输出控制工具集,提供一系列处理器来自定义和增强大语言模型的行为。包含多个实用工具如生成长度控制器、引用提示处理器、强制结束语处理器和多项选择处理器等,支持transformers、vLLM和TensorRT-LLM等主流框架,可以更精确地控制LLM的输出行为】 'A collection of LogitsProcessors to customize and enhance LLM behavior for specific tasks' GitHub: github.com/NVIDIA/logits-processor-zoo #LLM工具# ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览