风险与规制：人工智能伦理准则框架构建的国际经验.pdf

风险与规制：人工智能伦理准则框架

构建的国际经验

陈殿兵朱鑫灿

人工智能技术的飞速发展给人类社会带来变革性和颠覆性影响的同时必然引起

摘要

学界和业界对其给人类社会所带来伦理挑战的大讨论。以“人工智能基本伦理准则是什

么”为研究问题，运用质性研究中实物分析的方法对美国、欧盟、联合国教科文组织等

有关人工智能的6份政府政策文件进行编码分析，提炼出人工智能伦理五大准则，并对

准则进行讨论分析。研究发现：以人为本、安全可靠、公平正义、透明公开和负责监督

是人工智能伦理的五大准则。基于研究发现，提出了以下五个方面的建议：在以人为本

准则上，需要协调人机关系；在安全可靠准则上，需要关注数据隐私的安全；在公平正

义准则上，需要尽力消除偏见歧视；在透明公开准则上，要加强算法、决策的可解释

性；在负责监督准则上，要明晰责任归属以弱化社会矛盾。相关研究对中国当下人工智

能伦理准则的研究反思与健康发展具有积极的借鉴意义。

关键词人工智能技术伦理准则框架建构

作者简介陈殿兵，浙江师范大学教育学院副教授，硕士生导师（金华321004）；朱

鑫灿，浙江师范大学教育学院（金华321004）。

中图分类号G4文献标识码A文章编号1009-5896(2024)01-0072-12

一、研究背景

作为第四次产业革命的核心技术，人工智能（ArtificialIntelligence，AI）在社会各方

面都得到了广泛的应用并给人类社会各方面的发展带来了变革性和颠覆性的影响。例如

ChatGPT作为一种基于数据训练的人工智能聊天机器人，在商业领域，可以提高客户

服务效率和满意度，减少人力资本；在教育领域，可以提高学生学习效率，为智能教育提

供更多机会；在医疗领域，可以帮助医生快速诊断疾病，提高诊断效率。人工智能已经成

为人类有史以来最具革命性的技术之一。因此，人工智能成为国际竞争的焦点，世界主要

72

风险与规制：人工智能伦理准则框架构建的国际经验

发达国家纷纷将“发展人工智能”作为提升国家竞争力、维护国家安全的重大战略。但

是在便利人们生活和带来广泛机遇的同时，人工智能所引发的负面影响也层出不穷。人工

智能仍有信息技术遗留的伦理问题，包括个人信息泄露、信息鸿沟、信息茧房等，又因为

其深度学习等特征，可能在基本人权、社会秩序、人身安全等诸多方面带来一系列的伦理

问题。例如2020年密歇根州，警员根据人工智能面部识别抓捕嫌疑人，而人工智能训练

的数据大多是白人面孔，暂未学会识别黑人脸部差异，导致一位非裔美国人以行窃罪为由

被警方错误逮捕，侵犯了其基本人权；2016年微软发布的聊天机器人Tay由于没有设定

相应的指导机制，在短短的24小时之内，被网民教成了一个极端主义分子，虽然之后立

即被下架，但是人工智能技术给社会和人类带来的不确定性和危害性引起了人们的极大关

注，规范人工智能伦理也迫在眉睫。

二、文献综述

伦理指处理人伦关系的道理或规则。②综合多位学者的界定，人工智能伦理是在人工

智能开发、应用、治理等过程中需要遵循的道理和规则。3各国政府、机构以及国际

组织相继出台人工智能伦理相关文件和政策。除此之外，国内外学者通过多种形式深入探

究人工智能所带来的潜能和冲突以积极应对人工智能技术中产生的伦理问题7

不同领域内的学者在不同的研究中提出了“不伤害”“公正”“人本”“责任”等伦理准

则来规范人工智能的有序发展。达龙（Daron）指出人工智能的应用可能会造成人们失

业、工资水平降低以及后续更多不利影响，会造成民众的不满；孙伟平等人以伦理后果为

基本维度，指出要在准确研究和判断的基础上，构建以人本主义为核心的包括正义原则和

责任原则在内的整体伦理体系，贯彻人本原则、公正原则、公开透明原则、知情同意原则

和责任原则王东浩强调在人工智能体必须在遵守“不伤害”的原则下，可以适

国务院关于印发新一代人工智能发展规划的通知[EB/OL].(2017-07