ChatGPT会不受控制克隆你的声音！OpenAI公开红队测试报告

文章预览

衡宇 发自 凹非寺 量子位 | 公众号 QbitAI GPT-4o的怪癖暴露了，还是被官方公开的！ 你和它语音电话，它会 悄悄学你说话的声音，效果堪称“克隆” ，生动逼真到一毛一样那种； 甚至语音过程中还可能 看人下菜碟 ，毫无依据地猜你有某地口音，然后调整跟你对话的方式。 而且，如果在提示词上略施小计，GPT-4o很容易被引导出 发出一些奇奇怪怪声音 的效果，比如色情的呻吟、暴力尖叫或者peng的枪声。 自从10天前，OpenAI留下一句“我们计划在8月初分享一份关于GPT-4o的功能、局限性和安全评估的详细报告”，不知道多少人望眼欲穿。 现在红队报告真的出炉，网友都因这乖僻的GPT-4o炸开了锅。 有的人超开心的： 哇哦，这根本不是bug，这都是咱可以用起来的feature啊！！ 也有人忧心忡忡： 我的老天奶啊！这样一来，伪造音频不就是简简单单的事情了？ ………………………………