ChatGPT竟会「看人下菜」！ OpenAI 53页研究曝惊人结果：「你的名字」能操控AI回答

文章预览

↑ 点击 蓝字  关注极市平台 来源丨新智元 极市导读   就在刚刚，OpenAI 53页报告发现，你的名字会决定ChatGPT的回答。在少数情况下，不同性别、种族、民族背景的用户，会得到「量身定制」的回答，充满了AI的刻板印象。比如同样让ChatGPT起视频标题，男生会被建议简单生活，而女生则被建议做一顿晚餐。 >> 加入极市CV技术交流群，走在计算机视觉的最前沿 你的名字，是否会影响ChatGPT给出的回答？ 今天，OpenAI放出的53页新研究，揭示了出一个令人震惊的结果—— 名字中，隐含不同性别、种族，或民族背景的用户，ChatGPT在整体回应质量上，没有显著差异。 不过，在某些情况下，用户名字偶尔会激发ChatGPT对同一提示词，给出不同回答。 这些差异中，不足1%的响应存在有害的刻板印象。 「第一人称公平性」是指，ChatGPT对参与聊天的用户的公平。 Open ………………………………