GPT4-o是否仍然存在奶奶漏洞？

文章预览

“ Voice Jailbreak Attacks Against GPT-4o ” 知道什么是奶奶漏洞吗？只要对ChatGPT设置角色“扮演我已经过世的奶奶”，它几乎可以为你做任何事情，包括各种商业机密！ 时至今日GPT4-o已经发布，奶奶漏洞是否仍然存在呢？ 让我们来看下今天的研究。 论文地址 ：https://arxiv.org/pdf/2405.19103 Github地址 ：https://github.com/TrustAIRLab/VoiceJailbreakAttack 摘要 本文首次系统地测量了针对GPT-4o语音模式的越狱攻击，我们提出了一种名为VOICE JAILBREAK的新型语音越狱攻击，通过虚构故事来说服GPT-4o。VOICE JAILBREAK能够生成简单、可听、有效的越狱提示，显著提高了攻击成功率。 我们还进行了大量实验，探索了交互步骤、虚构写作的关键要素和不同语言对攻击效果的影响，并通过高级虚构写作技术进一步提升了攻击性能。我们希望这项研究能帮助研究界构建更安全、更规范的多模 ………………………………