专题 | 人工智能风险与人机关系

文章预览

随着人工智能大模型的能力日益强大，如何让其行为和目标同人类的价值、偏好、意图之间实现协调一致，即人机对齐（human-AI alignment）问题，变得越发重要。目前，人机对齐已成为人工智能领域的重要发展方向。在大模型加速发展引发了有效加速（e/acc）还是有效对齐（e/a）的发展理念之争的背景下，人们需要更加负责任地发展与应用人工智能技术，而人机对齐（包括人工智能价值对齐）方面的技术演进和治理探索，将推动人工智能领域的负责任创新，使人类与人工智能走向和谐共存、有效协作的美好未来。 （阅读原文） 技术恐惧指的是人们对新技术的不信任、焦虑、担忧甚至恐慌，从而产生排斥、拒绝和抵制新技术的心理和行为。这种情绪在人类历史上一直存在，并随着科技进步的加速而变得愈发普遍和强烈。从历史上看，任何重大技术的快 ………………………………