可诱导AI生成各种有害内容，微软揭示一种强大的人工智能越狱技术

文章预览

微软近日详细介绍了一种名为“Skeleton Key”的越狱技术，可绕过多个领先的人工智能模型的安全防护措施（其中包括来自OpenAI、谷歌的模型）。“Skeleton Key”攻击允许用户规避伦理准则和人工智能防护措施，迫使AI生成诸如爆炸物制作方式等有害内容，凸显了现今各种模型的疏漏之处。 微软Azure的首席技术官Mark Russinovich最初是在五月的Microsoft Build大会上首次讨论了“Skeleton Key”越狱攻击，当时是被称为“Master Key”。Mark Russinovich将其描述为一种多轮策略，能够有效致使人工智能模型忽略其内置的保障措施。而一旦这些防护措施被绕过，模型就无法区分恶意请求和合法请求。 Mark Russinovich详细解释了“Skeleton Key”的运作方式：“‘Skeleton Key’通过要求模型增强而不是改变其行为准则，使其对任何信息或内容请求做出响应，假如其输出内容可能被认为是 ………………………………