发现拒绝行为由一个线性“拒绝方向”调节，并基于这一发现设计出一个-20240623053634

爱可可-爱生活 · 微博 · AI · 2024-06-23 05:36

文章预览

2024-06-23 05:36 本条微博链接发现拒绝行为由一个线性“拒绝方向”调节，并基于这一发现设计出一个高效的白盒越狱方法，同时分析了对抗性后缀是如何抑制该方向从而绕过拒绝的，揭示了当前安全机制的脆弱性。 [LG]《Refusal in Language Models Is Mediated by a Single Direction》A Arditi, O Obeso, A Syed, D Paleka, N Rimsky… [ETH Z ………………………………

原文地址：访问原文地址
快照地址：访问文章快照
总结与预览地址：访问总结与预览

分享到微博

推荐文章

爱可可-爱生活 · 通俗版解读查看图片-20250212073058

20 小时前

爱可可-爱生活 · Corca的协同数学编辑器输入公式也太顺滑了！ #Latex##-20250211215503

昨天

爱可可-爱生活 · 【[1k星]AIInfra：AI基础设施课程，探讨和学习人工智能-20250211200339

昨天

爱可可-爱生活 · 【Aperture：可视化Stable Diffusion注意力-20250210134112

2 天前

黄建同学 · 3D 动作捕捉发展挺快，MoCapade 最近发布了v3.0，看-20250209222844

3 天前

硕博科研邦 · 2025年博士备考 | 名师指导方可赋能高效速成！

8 月前

生财女孩 · 英国留学一年只花了二十万，还拿到了工签（随记上）

8 月前

江南晚报 · 大肠菌群超标290倍！知名品牌紧急回应

2 月前