注册    登录
专栏名称: 宝玉xp
前微软Asp.Net最有价值专家 互联网科技博主 我是宝玉。
今天看啥
微信公众号rss订阅, 微信rss, 稳定的RSS源
目录
今天看啥  ›  专栏  ›  宝玉xp

//@鹿目焔:第二部分的想法很平凡吧，想强制llm以某种格式输出-20240807064404

宝玉xp  · 微博  · AI  · 2024-08-07 06:44
    

文章预览

2024-08-07 06:44 本条微博链接 // @鹿目焔 :第二部分的想法很平凡吧，想强制llm以某种格式输出，只要能拿到完整的logprobes都能这么做，采样的时候把概率分布在允许的取值上归一化一下就行。不少开源库应该都实现过这个逻辑了，这个是不需要对模型本身做任何变动的。 OpenAI 新模型 gpt-4o-2024-08-06 以及 gpt-4o-mini ………………………………

原文地址：访问原文地址
快照地址： 访问文章快照
总结与预览地址：访问总结与预览
推荐文章
爱可可-爱生活  ·  像数学中的分形一样构建生成模型 查看图片 //@爱可可-爱生活-20250302064218
2 天前
爱可可-爱生活  ·  [CL]《Agentic Reward Modeling: In-20250302054135
2 天前
宝玉xp  ·  第一次遇到 Claude 思考了一分钟以上，一遍遍反思，连着写了-20250301145641
2 天前
宝玉xp  ·  GPT 帮你补全：“当你灰心丧气的时候，想到发出这种言论的人都还-20250301125929
2 天前
量子位  ·  DeepSeek突袭公布成本利润率：545%
2 天前
华为云  ·  降低大模型推理87%时延！华为云论文入选顶会USENIX ATC'24
7 月前
爆炸吧知识  ·  多边形的外角和=360°？
7 月前
洪榕投资课  ·  非要找下跌的理由，那就是资金没有增援部队丨洪攻略小课堂
1 月前
城市漫游计划  ·  江苏怎么人人家里都有一台打印机
1 月前
洪观新闻  ·  小鹏汽车报警！广州警方：闫某（男，53岁）被刑拘！为吸粉赚取流量收益，造谣“首例智能驾驶致死案宣判”
1 周前
关于   移动版   ·   Py中国   ·   RSS之家   ·   CodingPro   ·   Code   ·   Link之家   ·   卧龙AI搜索   ·   小百科   ·   51好读   ·   小百科（海外）   ·   Link管理
今天看啥 - 微信公众号rss订阅, 微信rss, 稳定的RSS源
© 2024 ~ 沪ICP备11025650号