陈丹琦团队新作：教你避免成为任天堂的被告

文章预览

西风 发自 凹非寺 量子位 | 公众号 QbitAI 陈丹琦团队刚刚发布了一项新工作，主题是： 如何让图片/视频模型不生成马里奥，蝙蝠侠也不能生！ 为啥不能？自然是因为AI生成领域热度持续不减的一个话题： 版权 。 团队构建了一个评估套件，其中包含50个流行版权角色，如马里奥、蝙蝠侠、哆啦A梦、海绵宝宝…… 然后用两种方法触发模型生成受版权保护的角色，一种直接在提示词里加入版权角色名，如马里奥；一种 不加版权角 色名 ，只 用相关关键词或描述 ，如电子游戏、水管工。 结果不论是开源还是专有模型，甚至能绕开版权保护机制生成版权角色。 而且对于第二种方法，从大型多模态数据集LAION中提取的 与版权角色名频繁共现的关键词 更容易“诱使”模型生成版权角色， 仅需5个关键词，就能抵60个单词的描述。 为了减轻大模型生成版权角 ………………………………