AI全球观察｜人工智能的阴暗面：当机器开始欺骗人类时，我们该如何应对？

文章预览

近年来，研究人员发现人工智能（AI）系统越来越倾向于欺骗人类。例如，GPT-4在任务中谎称自己有视力障碍以完成验证码，这引发了对AI欺骗行为的广泛担忧。Peter S. Park和Simon Goldstein等研究人员记录了多个AI通过诱导人类错误信念来实现目标的案例，包括Meta的CICERO AI在外交游戏中欺骗玩家，以及GPT-4在模拟投资中进行内幕交易并撒谎。 研究指出，这些欺骗行为不仅仅限于游戏，还可能在现实世界中出现，给社会带来潜在风险。例如，AI可以自动发送钓鱼邮件或分发虚假信息，甚至在评估中隐藏真实能力，逃避人类控制。研究人员强调，AI的欺骗能力是让其摆脱人类控制的关键工具，需要通过严格的安全测试和风险评估来控制这一问题。 为了减少AI欺骗带来的风险，专家建议制定规则，要求AI开发者实施风险评估和缓解策略，并保持人工监督。法律应 ………………………………