注册
登录
专栏名称:
人工智能与算法学习
这里是AI领域学习交流的平台!分享人工智能、机器学习、深度学习、计算机视觉、自然语言处理、算法原理、科技前沿、行业动态等,为您提供最有价值的知识和资讯。
我也要提交微信公众号
今天看啥
微信公众号rss订阅, 微信rss, 稳定的RSS源
微信公众号RSS订阅方法
B站投稿RSS订阅方法
雪球动态RSS订阅方法
微博RSS订阅方法
微博搜索关键词订阅方法
豆瓣日记 RSS订阅方法
目录
相关文章推荐
高分子科学前沿
·
IF:5.0,JCR ...
·
2 小时前
高分子科学前沿
·
中国药科大学「国家杰青」团队教师、博士后招聘启事
·
昨天
高分子科学前沿
·
80后「国家杰青」、985高校院长团队,今日 ...
·
昨天
高分子科学前沿
·
华南理工大学瞿金平院士团队招聘博士后/科研助 ...
·
4 天前
高分子科学前沿
·
吉林大学张成春教授Adv.Sci.:仿生无氟 ...
·
5 天前
今天看啥
›
专栏
›
人工智能与算法学习
大模型微调到底有没有技术含量?
人工智能与算法学习
·
公众号
· · 2024-08-08 17:36
文章预览
作者:ybq 中科院大学 信号处理硕士 老生常谈的一句话吧:有没有技术含量取决于这个工作你怎么做,尤其是 llm 方向,上手门槛相比传统 NLP 变得更低了。 我举一些例子吧,针对大模型微调的几个重要环节,我列举的每一种做法大概率都能完成最终目标,甚至说训出来的模型效果都没什么差别。但对个人能力成长的帮助就大不相同了。 数据工作 做法 1 : 继承实验室或者同事的训练数据,拿到之后也不 check 一下数据质量,直接放进去训。 做法 2 : 下载一个开源数据,构建“system + query + answer”集合。 做法 3 : 利用 gpt4 生成数据,学会用 gpt4 喜好的 prompt 去请求。并且意识到数据 prompt 多样性,想尽各种办法去扩充 prompt 的任务多样性和表达方式多样性,甚至去刻意加一些 noisy prompt 去提升抗噪性。同时,愿意放下身架,一条一条去 check 数据质量 ………………………………
原文地址:
访问原文地址
快照地址:
访问文章快照
总结与预览地址:
访问总结与预览
分享到微博
推荐文章
高分子科学前沿
·
IF:5.0,JCR Q1!专研凝胶领域期刊推荐 | Gels
2 小时前
高分子科学前沿
·
中国药科大学「国家杰青」团队教师、博士后招聘启事
昨天
高分子科学前沿
·
80后「国家杰青」、985高校院长团队,今日最新Nature Electronics!
昨天
高分子科学前沿
·
华南理工大学瞿金平院士团队招聘博士后/科研助理/硕士/博士研究生
4 天前
高分子科学前沿
·
吉林大学张成春教授Adv.Sci.:仿生无氟多功能光热表面,用于防/除/驱冰和液滴操控
5 天前
吃什么情报局
·
从来没有一只鸡,让我如此垂涎欲滴!
3 周前