治理之智 | 算法影响评估的三个基本问题：制度定位、机制模式与改革启示（上篇）

主要观点总结

本文讨论了算法影响评估在人工智能治理中的重要性，通过对国内外政策实践的梳理，指出算法影响评估的制度定位、制度内涵及其实践模式。文章分析了算法治理的制度困境，阐述了算法影响评估的必要性，并从影响评估制度的应然内涵出发，提出了透明性机制、惩罚机制和激励机制三类关键机制来实现开放性与责任性的平衡。

关键观点总结

关键观点1: 算法影响评估的制度定位

算法影响评估作为治理层面的重要制度创新，在人工智能治理中发挥着关键作用。它旨在平衡开放性和责任性，形成合作治理框架，以实现动态积累治理经验与知识的目标。

关键观点2: 算法影响评估的制度内涵

算法影响评估的制度内涵包括透明性机制、惩罚机制和激励机制。透明性机制要求监管信息向公众开放以实现公开监督；惩罚机制在监管合作中推动一线主体承担相应责任；激励机制则为一线主体的合作参与提供正向激励条件。

关键观点3: 算法影响评估的实践模式

目前，算法影响评估的实践模式主要包括列表清单、底线规制、放权赋能等三种，这些模式在体现各自特征的同时仍然存在不足。因此，未来的算法影响评估的制度构建应围绕合作治理作为制度目标、探索平衡开放性与责任性的关键机制、坚持“技术-组织-社会”的系统论思维等三个维度展开。

文章预览

摘要： 人工智能技术和应用的迭代创新正在推动算法影响评估作为一种新的并在全球兴起的技术治理制度。虽然继承了环境影响评估、数据保护影响评估等类似制度的部分要件，但算法应用浮现出的社会嵌入性、难解释和难穷尽、公平性悖论等新特征，要求算法影响评估作出新的制度发展。算法影响评估的制度内涵在于平衡“开放性”和“责任性”，并最终致力于形成合作治理框架，以实现动态积累治理经验与知识的目标。通过对欧盟、美国、英国、加拿大等主要国家或地区算法影响评估的实践梳理，认为列表清单、底线规制、放权赋能等三种实践模式在体现各自特征的同时仍然存在不足。由此启发，算法影响评估的制度构建应围绕“合作治理作为制度目标、探索平衡开放性与责任性的关键机制、坚持‘技术-组织-社会’的系统论思维”三个维度 ………………………………