大语言模型角色扮演中存在的偏见问题

文章预览

有研究发现，角色扮演可以增强 LLM 的能力，但也可能揭示 LLM 中的偏见。在 LLM 输入提示前缀中设置不同的角色（例如儿童、领域专家、不同种族和性别的人），发现 LLM 可以根据角色扮演来改变其行为和输出，例如在描述鸟类和汽车时， LLM 会根据扮演的角色选择不同的描述方式。同时，论文也发现 LLM 在角色扮演时会产生偏见，例如扮演男性角色的 LLM 在描述汽车时会比扮演女性角色的 LLM 更准确。 1 LLM的角色扮演 角色扮演定义： LLM 的角色扮演能力是指 LLM 可以根据特定的角色进行学习和生成文本，使其行为和输出与该角色的特征相符。例如， LLM 可以模仿儿童的思维方式、领域专家的专业知识、不同种族和性别的人的用语习惯等。通过在 LLM 输入提示前缀中设置不同的角色信息， LLM 会进行内部模拟，并根据该角色的特征调整其 ………………………………