ChatGPT确实会看人下菜！OpenAI官方报告揭示大模型的刻板印象

文章预览

机器之心报道 编辑：Panda、佳琪 我们都知道，OpenAI 最近越来越喜欢发博客了。 这不，今天他们又更新了一篇，标题是「评估 ChatGPT 中的公平性」，但实际内容却谈的是用户的身份会影响 ChatGPT 给出的响应。 也就是说，OpenAI 家的 AI 也会对人类产生刻板印象！ 当然，OpenAI 也指出，这种刻板印象（包括对性别或种族的刻板印象）很可能源自 AI 训练使用的数据集，所以归根结底，还是来自人类自身。 OpenAI 的这项新研究探讨了有关用户身份的微妙线索（如姓名）对 ChatGPT 响应的影响。其在博客中表示：「这很重要，因为人们使用 ChatGPT 的方式多种多样，从帮助写简历到询问娱乐想法，这不同于 AI 公平性研究中的典型场景，比如筛选简历或信用评分。」 论文标题：First-Person Fairness in Chatbots 论文地址：https://cdn.openai.com/papers/first-person-fairness-in-chatbots.pdf ………………………………