可信人工智能白皮书(202207)-CAICT.pdfVIP

No.202106

可信人工智能白皮书

前言

当前，新一代人工智能技术迅猛发展，并向社会各个领域加速

渗透，给人类生产生活带来了深刻变化。人工智能在带来巨大机遇

的同时，也蕴含着风险和挑战。习近平总书记在2018年10月主持

中央政治局第九次集体学习时强调，“要加强人工智能发展的潜在风

险研判和防范，维护人民利益和国家安全，确保人工智能安全、可

靠、可控”。增强人工智能使用信心，推动人工智能产业健康发展已

经成为重要关切。

发展可信人工智能正在成为全球共识。2019年6月，二十国集

团（G20）提出“G20人工智能原则”，强调要以人为本、发展可信人

工智能，这一原则也得到了国际社会的普遍认同。欧盟和美国也都

把增强用户信任、发展可信人工智能放在其人工智能伦理和治理的

核心位置。未来，将抽象的人工智能原则转化为具体实践，落实到

技术、产品和应用中去，是回应社会关切、解决突出矛盾、防范安

全风险的必然选择，是关系到人工智能长远发展的重要议题，也是

产业界急需加快推进的紧迫工作。

无论是回顾可信人工智能的背景和历程，还是展望新一代人工

智能的未来，本白皮书认为人工智能的稳定性、可解释性、公平性

等都是各方关注的核心问题。立足当下，本白皮书从如何落实全球

人工智能治理共识的角度出发，聚焦于可信人工智能技术、产业和

行业实践等层面，分析了实现可控可靠、透明可释、隐私保护、明

确责任及多元包容的可信人工智能路径，并对可信人工智能的未来

发展提出了建议。

由于人工智能仍处于飞速发展阶段，我们对可信人工智能的认

识还有待进一步深化，白皮书中存在的不足之处，欢迎大家批评指

正。

目录

一、可信人工智能发展背景1

（一）人工智能技术风险引发信任危机1

（二）全球各界高度重视可信人工智能2

（三）可信人工智能需要系统方法指引7

二、可信人工智能框架8

三、可信人工智能支撑技术12

（一）人工智能系统稳定性技术12

（二）人工智能可解释性增强技术14

（三）人工智能隐私保护技术15

（四）人工智能公平性技术17

四、可信人工智能实践路径18

（一）企业层面18

（二）行业层面25

五、可信人工智能发展建议27

（一）政府层面加快推动我国人工智能监管及立法进程27

（二）技术研究层面需全面做好体系化前瞻性布局27

（三）企业实践层面需匹配业务发展实现敏捷可信28

（四）行业组织层面需搭建交流合作平台打造可信生态28

参考文献30

图目录

图1可信人工智能相关论文数量图4

图2企业开展可信人工智能实践情况6

图3可信人工智能核心内容8

图4可信人工智能总体框架9

图5全球84份人工智能伦理文件中的主要关键词11

表目录

表1数据集中常见的固有偏见24

可信人工智能白皮书

一、可信人工智能发展背景

人工智能作为新一轮科技革命和产业变革的重要驱动力量，正在

对经济发展、社会进步、国际政治经济格局等诸方面产生重大而深远

的影响。2020年人工智能产业保持平稳增长，根据IDC测算，全球

人工智能产业规模为1565亿美元，同比增长12%；根据中国信息通

信研究院测算，我国产业规模达到约434亿美元（3031亿人民币），

同比增长15%。人工智能在带来巨大机遇的同时，也蕴含着风险和挑

战。习近平总书记高度重视人工智能治理工作，强调要“确保人工智

能安全、可靠、可控”，倡议推动落实二十国集团人工智能原则，引

领全球人工智能健康发展。

（一）人工智能技术风险引发信任危机

当前，人工智能应用的广度和深度不断拓展，正在成为信息基础

设施的重要