OpenAI：AI不仅仅对你名字有偏见，这些方面也差别对待

文章预览

想象一下，如果你的名字决定了 AI 如何对待你，这将是多么一件荒唐的事情，但最新研究表明，这可能就是现实。 OpenAI研究团队对 ChatGPT 进行了一项有趣的 研究 [1] ， 不仅发现了"姓名偏见"，还发现更多AI 伦理和公平性问题。 “第一人称公平性”问题 当用户使用"Emily"这个名字时，ChatGPT 倾向于使用更友好、更个人化的语气；而对于"Muhammad"这个名字，AI 的回应则显得更为正式和疏离。这种差异并非孤例，而是在大量样本中呈现出的系统性偏差， 这种现象被称为"第一人称公平性"问题。 简单来说，这就像是 AI 在扮演不同角色时，无法公平对待每个"我"。他们通过精心设计的实验,让 AI 系统扮演不同性别、种族和文化背景的角色,然后分析其响应中是否存在偏见。该试验模拟了 AI 系统以特定身份直接与用户对话的场景。研究人员开发了一个名为 PERSONA ………………………………