兰德公司发布：《强化学习人工智能系统的风险评估》

文章预览

2024年7月2日，兰德公司发布报告《强化学习人工智能系统的风险评估》，讨论了美国国防部在实际应用强化学习技术时可能面临的一些挑战。在复杂的战略游戏中，强化学习系统击败世界级专家，然而在实际应用中这种系统会带来哪些风险尚未可知。元战略编译该报告重点内容，为了解在作战指挥和控制使用强化学习系统的相关风险提供借鉴。 一、研究背景 该报告探讨了将强化学习（RL）技术引入美国国防部的潜在风险， 描述了随着人工智能所执行任务的规模、复杂性和重要性日益增长，美国国防部所面临的风险。近期，人工智能在医学、自然语言处理和自动驾驶等多种应用领域取得了令人瞩目的成就。在游戏领域，人工智能已经掌握了国际象棋和围棋等经典棋类游戏，此外《星际争霸II》和《Dota2》等复杂的在线游戏，通常都有强化学习技术的 ………………………………