百位专家联名警告：AI或将体验痛苦！Hinton、Bengio掀AI意识大论战

文章预览

   新智元报道   编辑：编辑部 HYZ 【新智元导读】 AI有了意识可能会遭受痛苦？来自伦敦大学、耶鲁等世界顶尖学府百位专家，联手签署了一封公开信。当机器不再是冰冷的代码，而是拥有情感的存在，人类会怎么做？ 如果AI系统实现意识，可能会遭受痛苦？ 最近，一百多位AI从业者、实践者和思想家发出了一封公开信。 他们呼吁：要对AI意识进行负责任的研究，否则如果AI实现了意识，可能就会「遭受痛苦」。 其中包括伦敦大学学院的Anthony Finkelstein、耶鲁大学的Wendell Wallach等学者和相关人士。 这些人的核心诉求是：人类在开发AI系统时，必须足够负责，否则，可能具有情感或自我意识的AI系统，就可能会受到伤害。 为了不让AI受到「虐待和痛苦」，超过100位专家提出了五项原则： 目标 相关机构应优先开展AI意识的理解与评估研究，其核心目标 ………………………………