专栏名称: 宝玉xp
前微软Asp.Net最有价值专家 互联网科技博主 我是宝玉。
今天看啥  ›  专栏  ›  宝玉xp

//@鹿目焔:第二部分的想法很平凡吧,想强制llm以某种格式输出-20240807064404

宝玉xp  · 微博  · AI  · 2024-08-07 06:44

文章预览

2024-08-07 06:44 本条微博链接 // @鹿目焔 :第二部分的想法很平凡吧,想强制llm以某种格式输出,只要能拿到完整的logprobes都能这么做,采样的时候把概率分布在允许的取值上归一化一下就行。不少开源库应该都实现过这个逻辑了,这个是不需要对模型本身做任何变动的。 OpenAI 新模型 gpt-4o-2024-08-06 以及 gpt-4o-mini ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览