社交聊天机器人的性别偏见——基于小冰系列的对话测试研究

文章预览

本刊官方网站： http://cjjc.ruc.edu.cn/ 摘要 当人工智能社交聊天机器人被视作具有人性特征的通信者，了解它们与人类进行交互过程中的性别偏见问题十分重要。本文使用对话测试的方法，设计了一系列用于测试机器人性别偏见的问题，对国内三款主流社交聊天机器人进行测试，并基于交互文本展开质性编码分析。结果表明，社交聊天机器人在自我性别认知、性别刻板印象、性别平等、应对性别骚扰等方面均表现出明显的性别偏见，且与社交聊天机器人本身被赋予的男女性别角色无关。作为人机交互技术产物的社交聊天机器人的性别偏见，由用户参与、对话系统技术支持、科技公司和程序开发者共同建构，而以社交聊天机器人为代表的AI在学习和模仿中复刻与强化了人类社会性别结构性力量的性别偏见。 作者简介 马中红，苏州大学传媒学院教授。 吴 ………………………………