发现了安全微调数据中的拒绝位置偏差问题，并通过显式训练LLM在响-20240719053410

爱可可-爱生活 · 微博 · AI · 2024-07-19 05:34

文章预览

2024-07-19 05:34 本条微博链接发现了安全微调数据中的拒绝位置偏差问题，并通过显式训练LLM在响应的任意位置拒绝生成有害内容的方式进行改进，大幅提高了LLM的安全性。 [CL]《Refuse Whenever You Feel Unsafe: Improving Safety in LLMs via Decoupled Refusal Training》Y Yuan, W Jiao, W Wang, J Huang... [The Chinese University of Hong Kong Tencent AI ………………………………

原文地址：访问原文地址
快照地址：访问文章快照
总结与预览地址：访问总结与预览

分享到微博

推荐文章

Founder Park · 对话王诗沐：走出大厂创业，做 3D AI 游戏，瞄准新的内容平台机会

昨天

Founder Park · 对话王诗沐：走出大厂创业，做 3D AI 游戏，瞄准新的内容平台机会

昨天

爱可可-爱生活 · [LG]《Non-Adversarial Inverse Rei-20241118054418

2 天前

智先生 · 裁员了，很严重，大家做好准备吧！

2 天前

智先生 · 裁员了，很严重，大家做好准备吧！

2 天前

黄建同学 · 机器人+AI 的这项应用看起来能改变世界！我们正在告别丑陋的建筑-20241117185023

2 天前

黄建同学 · Cjz 分享了他的开发工具栈和方法，可参考↓涉及到ChatGPT-20241112195038

1 周前

兔保哥 · 今年养老金，谁家涨最多

4 月前

方升研究 · 别建了，生物医药园熄火了

1 周前