注册
登录
专栏名称:
深度学习自然语言处理
一个从大三就接触NLP的小小NLPer,本公众号每天记录自己的一点一滴,每篇文章最后也有托福单词等新知识,学技术同时,也一点一滴积累额外的知识。期待与你在知识的殿堂与你相遇!
我也要提交微信公众号
今天看啥
微信公众号rss订阅, 微信rss, 稳定的RSS源
微信公众号RSS订阅方法
B站投稿RSS订阅方法
雪球动态RSS订阅方法
微博RSS订阅方法
微博搜索关键词订阅方法
豆瓣日记 RSS订阅方法
目录
相关文章推荐
通用技术集团
·
“医”往无前⑦ | ...
·
9 小时前
华医网
·
重磅!2023中国医院门诊量、手术量100强 ...
·
3 天前
医院运营咨询新知
·
医院MRI检查人次测算丨行业对标数据
·
5 天前
今天看啥
›
专栏
›
深度学习自然语言处理
人人都能看懂的DPO数学原理
深度学习自然语言处理
·
公众号
· · 2024-09-16 23:49
文章预览
一、DPO在做一件什么事 来自:大猿搬砖简记 在文章的开始,我们来思考一个问题: 如果想让你训练一个能听得懂人类问题,并给出人类满意答案的模型,你会怎么设计大致的训练步骤? 一口吃成一个大胖子是困难的,所以不如让我们循序渐进地来设计这个训练过程: 首先,你的模型必须要有充足的知识储备,以应对你可能提出的任何问题 其次,你的模型需要明白“你在提出问题”或者“你在下达指令”这个动作,它在理解这一点的基础上,尝试按照你的指令给出相应的回答 最后,你希望模型不仅能对你的问题给出答案,还需要给出令你满意的回答,也就是你希望模型对齐你的偏好。 我们以chatGPT的训练为例,看看它是如何贴合这个训练步骤的: 首先,它使用大量的数据(文本、代码、数学等),先训练出一个base模型。这个训练过程赋予模型对文 ………………………………
原文地址:
访问原文地址
快照地址:
访问文章快照
总结与预览地址:
访问总结与预览
分享到微博
推荐文章
通用技术集团
·
“医”往无前⑦ | 烧伤面积95%!通用技术内蒙古包钢医院让生命“浴火重生”
9 小时前
华医网
·
重磅!2023中国医院门诊量、手术量100强榜单出炉!这家医院稳居双榜第一
3 天前
医院运营咨询新知
·
医院MRI检查人次测算丨行业对标数据
5 天前
携程黑板报
·
携程集团发布最新ESG报告:助推行业与社会可持续发展,打造全球领先的家庭友好企业
3 周前
传媒行业招聘
·
武汉首家单口喜剧俱乐部开饭喜剧招聘!
1 周前