文章预览
美国战略家认为,人工智能(AI)有可能实现更好、更快的决策,这在未来的军事冲突中是决定性的。机器学习应用将越来越多地影响政治和军事领导人对战略环境的看法,权衡风险和选择,并判断他们的对手。但是,将关键的人类决策过程暴露在人工智能系统的中会有什么风险? 要获得人工智能在决策方面的优势,首先需要了解其局限性和陷阱。人工智能系统根据数据模式进行预测。总是有一些意外行为或失败的机会。现有的工具和技术试图使人工智能对失败更加稳健,往往会导致性能上的权衡,解决了一个问题,但可能会使另一个问题恶化。人们对人工智能的脆弱性和缺陷的认识不断提高,但也需要在现实的部署背景下对技术故障的潜在后果进行更深入的分析。 本简报研究了直接或间接影响决策的人工智能系统故障如何与战略压力和人为因素相
………………………………