LLM STINGER 提出了一种利用强化学习微调大型语言模型自-20241115060634

文章预览

2024-11-15 06:06 本条微博链接 LLM STINGER 提出了一种利用强化学习微调大型语言模型自动生成对抗性后缀以攻破安全训练的 LLM 的新方法，其显著提高的攻击成功率和黑盒可访问性使其成为对抗性攻击领域的重要进展。 [LG]《LLMStinger: Jailbreaking LLMs using RL fine-tuned LLMs》P Jha, A Arora, V Ganesh [Georgia Institute of Technology] (202 ………………………………