【关注】《人工智能安全治理框架》1.0版发布

主要观点总结

本文介绍了在2024年国家网络安全宣传周主论坛上，全国网络安全标准化技术委员会发布了《人工智能安全治理框架》1.0版，为了贯彻落实《全球人工智能治理倡议》。该《框架》旨在鼓励人工智能创新发展，有效防范化解安全风险，提出了包括包容审慎、确保安全在内的治理原则。文章还提到了《框架》对于人工智能安全风险的应对和防治措施，以及对于推动人工智能健康发展和规范应用的重要性。

关键观点总结

关键观点1: 发布《人工智能安全治理框架》1.0版

全国网络安全标准化技术委员会在2024年国家网络安全宣传周主论坛上发布了此框架，以贯彻落实《全球人工智能治理倡议》。

关键观点2: 《框架》的治理原则

《框架》提出了包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享等人工智能安全治理原则，以防范化解人工智能安全风险。

关键观点3: 《框架》对人工智能安全风险的应对和防治措施

《框架》针对模型算法安全、数据安全和系统安全等内生安全风险，和网络域、现实域、认知域、伦理域等应用安全风险，提出了相应技术应对和综合防治措施。

关键观点4: 《框架》的重要性和影响

该《框架》为社会各方参与人工智能安全治理提供了基础性、框架性技术指南，有助于推动人工智能的健康发展和规范应用。同时也有助于在全球范围推动人工智能安全治理国际合作，形成具有广泛共识的全球人工智能治理体系。

文章预览

9月9日，在2024年国家网络安全宣传周主论坛上，全国网络安全标准化技术委员会（以下简称“网安标委”）发布了《人工智能安全治理框架》1.0版。 为贯彻落实《全球人工智能治理倡议》，网安标委研究制定了《人工智能安全治理框架》（以下简称《框架》）。《框架》以鼓励人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点和落脚点，提出包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享等人工智能安全治理原则。《框架》按照风险管理理念，紧密结合人工智能技术特性，分析人工智能风险来源和表现形式，针对模型算法安全、数据安全和系统安全等内生安全风险，和网络域、现实域、认知域、伦理域等应用安全风险，提出相应技术应对和综合防治措施，以及人工智能安全开发应用 ………………………………