【译作】人工智能风险管理框架（连载之二）

主要观点总结

本文主要介绍了由美国商务部国家标准与技术研究院（NIST）发布的人工智能风险管理框架（AI RMF），包括其主要受益者、其在人工智能生命周期中的应用，以及可信人工智能系统的特征和增强人工智能可信度的方法。

关键观点总结

关键观点1: AI RMF的主要受益者

包括人工智能的参与者，如设计师、开发人员、部署者等，以及社会更广泛的群体，如行业协会、标准制定组织、研究人员、倡导团体等。他们共同构成人工智能风险管理的主力军。

关键观点2: AI RMF在人工智能生命周期中的应用

AI RMF强调测试、评估、论证和验证（TEVV）过程在人工智能生命周期中的重要性，并强调所有参与者共同努力来管理风险，实现值得信赖和负责任的人工智能目标。

关键观点3: 可信人工智能系统的特征

包括有效且可靠、安全、有保障且有弹性、可追责且透明、可解释和可理解等。单独解决这些特征并不能确保人工智能系统的可信，通常需要平衡不同特征之间的权衡。

关键观点4: 增强人工智能可信度的方法

包括在人工智能生命周期中增加情境意识、平衡可信特征之间的权衡、配置合适的资源等。全面的风险管理方法要求在这些可信的特征之间寻求平衡。

文章预览

编程按： 英文原文由隶属于美国商务部的国家标准与技术研究院（National Institute of Standards and Technology，NIST）于2023年1月份发布，版本信息是1.0版本。本期是连载的第二期。 第2部分   受益者 识别和管理人工智能风险和潜在影响——无论是积极的还是消极的——需要人工智能生命周期中的广泛参与者和不同的观点。在理想情况下，人工智能的参与者应当拥有不同的经验、不同的专业知识以及多元的背景，包括学科领域的多样性。人工智能风险管理框架（AI RMF）致力于能够被人工智能不同生命周期中的参与者广泛使用。 经济合作发展组织（OECD）已经开发了一个框架，根据五个关键的社会技术维度对人工智能生命周期活动进行分类，每个维度都具有与人工智能政策和治理（包括风险管理）相关的属性。 国家标准与技术研究院（NIST）的修改强调了测试 ………………………………