2024人工智能算法影响评价体系构建与应用实践报告.pdfVIP

清华大学CIDEG研究项目

研究报告（结题）

人工智能算法影响评价

体系构建与应用实践

2024年3月

委托方：清华大学产业发展与环境治理研究中心

课题负责人：

贾开上海交通大学国际与公共事务学院长聘副教授

课题组成员：

赵静、傅宏宇、陈少威、元圣平、杨欣宇、朱韵涵

清华大学产业发展与环境治理研究中心

地址：北京市海淀区清华大学公共管理学院615

邮编：100084

电话：(86-10)62772497

传真：(86-10)62772497

邮箱：cideg@

主页：

目录

1.人工智能算法影响评价的背景：界定治理问题4

1.1.算法歧视治理风险5

1.2.算法公平治理风险8

1.3.算法安全治理风险10

1.4.本章总结12

2.人工智能算法影响评价的内涵：描述治理实践13

2.1.人工智能算法影响评价的制度内涵及其治理定位13

2.1.1.算法影响评价的制度内涵13

2.1.2.算法审计的制度内涵15

2.1.3.算法影响评价与算法审计的共性与差异16

2.2.人工智能算法影响评价的三种模式：环境影响评价、数据保护影响评估、列表清单17

2.2.1.环境影响评价视角下的算法影响评价17

2.2.2.数据保护影响评估视角下的算法影响评价20

2.2.3.问题列表清单评估视角下的算法影响评估22

2.2.4.不同模式的对比分析26

2.3.人工智能算法影响评价的国别特征：欧盟、美国、英国、加拿大与中国26

2.3.1.欧盟26

2.3.2.加拿大31

2.3.3.美国35

2.3.4.英国41

2.3.5.中国47

3.人工智能算法影响评价的治理逻辑：监管者与被监管者的合作51

3.1.协同治理（CollaborativeGovernance）视角下的人工智能算法影响评价52

3.2.管理主义（Managerialism）视角下的人工智能算法影响评价55

3.3.制度同化（InstitutionalIsomorphism）视角下的人工智能算法影响评价60

4.人工智能算法影响评价的未来改革：形成政策建议61

4.1.人工智能算法影响评价的制度要求：开放性、合作性、责任性62

4.1.1.开放性62

4.1.2.合作性63

4.1.3.责任性64

4.2.通用人工智能算法影响评价的体系框架：理论基础、层次结构、流程指标65

4.2.1.理论基础：心理计量学与机器行为学的理论融合创新65

4.2.2.层次结构：技术、组织、社会71

4.3.通用人工智能算法影响评价的政策建议错误!未定义书签。

人工智能算法影响评价（algorithmimpactassessment,AIA）作为一种治理

机制已经被普遍性地纳入各国算法治理的框架体系之下，但其本身的制度定位与

制度逻辑却尚未得到充分讨论。较为典型的反思性问题例如：人工智能算法治理

的何种关键特征，使得我们需要纳入人工智能算法影响评价（即人工智能算法影

响评价的必要性问题）？与往往被视为其前身的环境影响评估、数据隐私影响评

估相比，人工智能算法影响评价体现了更多的继承和连续性，还是差异性（即人

工智能算法影响评价的特殊性问题）？人工智能算法影响评价治理绩效的发挥，

受到何种因素的影响（即人工智能算法影响评价的局限性问题）？