如何合规使用用户输入信息进行训练

文章预览

今天简单聊聊使用用户输入的数据来训练和优化模型的事情。 不知道你在向大模型提问和聊天时，是否曾担心过自己输入的内容会被大模型用来做其他的处理？ 比如作为模型训练和优化的养料。 对于这点，国家标准《生成式人工智能服务安全基本要求》有明确的规定： 用户输入的信息会因为关联性构成个人信息，但其敏感程度通常属于一般个人信息，因此原则上使用用户输入的信息直接进行模型训练也构成个人信息处理活动，需要取得用户的同意。这可能是5.1条要求企业具有使用者授权记录规定的原因。一般通过隐私政策进行统一地“告知-同意”即可满足要求。 而《生成式人工智能服务安全基本要求》还要求企业提供关闭方式（opt-out），这是附加的额外要求。好消息是，国标没有限制关闭的实现方式，因此最低水位来说，“在隐私政策里告知 ………………………………