人工智能风险的多维特性与监管对策.pdfVIP

人工智能风险的多维特性与监管对策

121

张小奕，魏巍，彭春燕

（1.科学技术部科技人才交流开发服务中心；2.中国生物技术发展中心）

健康发展，也影响到社会的公平和秩序。例如，

一、人工智能治理研究现状

AI可能对就业市场产生重大冲击，部分工作岗

人工智能（AI）是一个综合性的概念，不同位面临被智能系统取代的风险，可能加剧社会

的研究者和组织从不同角度给出了各自的定义。不平等（Frey et al.，2017）；AI系统的决策

总的来说，AI是指通过计算机程序或机器展现出可能具有不透明性和不可解释性，导致潜在的

的智能行为，尤其是类似人类智能的行为，如偏见和歧视，引发公平性和伦理问题（Barocas 

学习、推理、判断、规划等。近年来，AI技术取et al.，2016）；AI技术的应用还可能带来隐

得了长足进步。当前，以机器学习、深度学习为私泄露、安全漏洞等风险（Brundage et al.，

代表的AI技术在计算机视觉、语音识别、自然语2018）。因此，对AI技术进行有效的监管变得尤

言处理等领域取得了突破性进展，在许多任务上为重要。

的表现已经接近甚至超过人类水平（LeCun et 现有研究从技术风险、社会影响、伦理道

al.，2015）。与此同时，AI技术已广泛应用于德、法律制度等多个维度，分析了对AI进行监管

工业制造、金融、医疗、教育、交通等领域，正的必要性，并提出了相应的监管原则和框架，对

加速向各行各业渗透，极大提升了生产效率和服AI进行监管似乎已经成为学术界和产业界的共

务质量，推动了经济社会的数字化、智能化转型识。然而，现有研究仍存在一些不足之处，主要

。

（Bughin，2018）表现在以下几个方面：

但AI技术的快速发展也带来了一系列社会影一是监管对象和范围界定不清。AI是一个涵

响和风险挑战，特别是在数据安全、隐私保护、盖多种技术和应用的复杂系统，不同领域、不同

算法公平性等方面。这些问题不仅关系到技术的场景下的AI监管需求各不相同。现有研究对AI监

56科技中国2024年7月第7期

管的对象和范围界定不够明确，缺乏针对性和可

二、人工智能的风险分析

操作性（Jobin et al.，2019）。未来研究需要

进一步细化AI监管的具体对象和适用范围，以便（一）风险分类

提出差异化的监管策略和措施。根据国内外法律对AI的定义、实际案例、技

二是监管主体和责任划分不明。AI监管涉及术发展现状以及社会伦理标准，AI的风险可能来

多个利益相关方，包括政府、高校、科研机构、自多个方面，基于风险导向的原则，监管的环

企业、公众等，不同主体在监管中的角色和责任节、对象和目标会因风险分类或来源的不同而有

定位尚不明确。现有研究对监管主体的分工协作所不同。不同的风险类型意味着可能会产生不同

和责任划分缺乏系统性考虑。的负面影响。

（Dignum，2020