前沿译文｜在AI时代如何引导人工智能“向善”

文章预览

编译 | 陈亦奇 编者荐语 ： 在人工智能迅猛发展的背景下，如何有效管理其带来的极端风险成为当前的重要议题。《Science》杂志最新发表的文章《人工智能飞速发展背景下的极端风险管理》由多位领域顶尖专家共同撰写，探讨了这一问题。这篇文章为政策制定者、研究人员和公众提供了宝贵的见解，呼吁全球各界共同努力，确保人工智能技术的发展造福全人类，避免潜在的灾难性后果。 人工智能飞速发展背景下的极端风险管理 摘要 ： 在人工智能（AI）飞速发展之际，企业正在将发展重心转向开发具有自主行动能力并可追求目标的通用AI系统。随着人工智能的能力和自主性不断提高，其影响力也将大幅增强。然而，这种增强可能会带来大规模社会伤害和恶意应用，同时在涉及自主AI系统时，也存在人类无法逆转的失控风险。尽管研究人员已对AI的极 ………………………………