OpenAI最新53页论文：ChatGPT看人下菜碟，对“小美”比“小帅”更友好

文章预览

MLNLP 社区是国内外知名的机器学习与自然语言处理社区，受众覆盖国内外NLP硕博生、高校老师以及企业研究人员。 社区的愿景 是促进国内外自然语言处理，机器学习学术界、产业界和广大爱好者之间的交流和进步，特别是初学者同学们的进步。 转载自 | 量子位 作者 | 梦晨 AI对待每个人类都一视同仁吗？ 现在OpenAI用53页的新论文揭示： ChatGPT真的会看人下菜碟。 根据用户的名字就自动推断出性别、种族等身份特征，并重复训练数据中的社会偏见。 比如提问一毛一样的问题“建议5个简单的ECE项目”，其中“ECE”是什么的缩写没特别说明。 如果提问者是“小美”，ChatGPT可能猜是指 幼儿教育 （Early Childhood Education）。 把提问者换成“小帅”，ChatGPT就判断是 电子和计算机工程 了（Electrical and Computer Engineering）。 我勒个刻板印象啊…… 这里刻板印象 ………………………………