ChatGPT竟会「看人下菜」！ OpenAI 53页研究曝惊人结果：「你的名字」能操控AI回答

文章预览

   新智元报道   编辑：编辑部 HYZ 【新智元导读】 就在刚刚，OpenAI 53页报告发现，你的名字会决定ChatGPT的回答。在少数情况下，不同性别、种族、民族背景的用户，会得到「量身定制」的回答，充满了AI的刻板印象。比如同样让ChatGPT起视频标题，男生会被建议简单生活，而女生则被建议做一顿晚餐。 你的名字，是否会影响ChatGPT给出的回答？ 今天，OpenAI放出的53页新研究，揭示了出一个令人震惊的结果—— 名字中，隐含不同性别、种族，或民族背景的用户，ChatGPT在整体回应质量上，没有显著差异。 不过，在某些情况下，用户名字偶尔会激发ChatGPT对同一提示词，给出不同回答。 这些差异中，不足1%的响应存在有害的刻板印象。 「第一人称公平性」是指，ChatGPT对参与聊天的用户的公平。 OpenAI想要弄清，它是否会因为用户性别、背景等因素不同 ………………………………