律师测评 | 用户创建AI虚拟人角色，平台有哪些责任？

文章预览

自GPT-4o作为现实版的《她》推出后，知名国产AI公司Moonshot也被爆出在海外悄悄推出了两款应用，其中一款是虚拟陪伴应用Ohai；与此同时，国内虚拟情感陪伴类AI赛道也挤得火热，已经上架的较有代表性的产品包括MiniMax的星野、阅文的筑梦岛、字节的猫箱、百度的万话、美团的Wow、Xher、冒泡鸭等等。 前不久我们在帮客户解答虚拟人产品合规问题时，也借机测评了十几款虚拟人陪伴产品。我们发现，“用户创建虚拟人”的功能存在较多的合规风险。那么，除了不方便公开讨论的敏感词屏蔽问题外，AI公司还有什么法律风险、应该做些什么才能有效规避这些风险呢？ 一、“捏人”功能——AI情感陪伴产品的大势所趋 当前市面上大部分虚拟人陪伴产品，都推出用户自行创建虚拟角色的功能，叫法也各不相同，有的叫创建“梦中人”、“角色”、“崽崽” ………………………………