人工智能算法歧视的法律规制：欧美经验与中国路径.docxVIP

? ? 人工智能算法歧视的法律规制 欧美经验与中国路径 ? ? [Summary]算法歧视是人工智能自动化决策中，由数据分析导致的对特定群体的，系统的、可重复的、不公正对待。算法歧视正在人工智能技术应用的多个场域出现，对受害群体及整个社会有着多重不利影响。为了维护平等与公正的社会秩序，有必要对算法歧视进行法律规制。作为人工智能法律规制的先行者，在应对人工智能算法歧视方面，欧盟选择了以数据保护为中心的规制模式，而美国选择了以算法责任为中心的规制模式。我国正处于人工智能法律规制的草创阶段，在今后的法治实践中，可由算法理念、算法技术、算法审查和算法问责四个方面着手，完善我国的人工智能算法歧视法律规制框架。 [关 键 词]大数据 ?人工智能 ?算法歧视 ?数据保护 ?算法责任 [作者简介]章小杉（1991—），女，湖北浠水人，武汉大学法学院博士研究生，研究方向为宪法学与行政法学。 []D920.4 ? ?[]A ? ?[]1008-7672（2019）06-0063-10 进入大数据时代后，机器学习重新成为计算机科学的重点课题。通过对大数据的挖掘与分析，以及算法的不断生成与优化，机器逐渐具备了足够与人相媲美的智能，亦即现代人熟知的人工智能（Artificial Intelligence）。毫无疑问，以大数据为驱动、以算法为核心的人工智能正在深刻地改变着人类社会。人工智能一方面给人类社会带来前所未有的技术红利，另一方面也蕴藏着多重风险和不确定性。国务院于2017年7月8日印发的《新一代人工智能发展规划》指出，人工智能是影响面甚广的颠覆性技术，在大力发展人工智能的同时，必须高度重视可能带来的安全风险挑战，确保人工智能安全、可靠、可控发展。有学者总结了人工智能给人类社会带来的五种风险，即伦理风险、极化风险、规制风险、异化风险及责任风险。？譹？訛算法歧视（Algorithmic Discrimination）正是人工智能技术应用不可忽视的风险之一，其不仅侵犯了社会个体的平等权利，违背了平等与公正的价值理念，而且会令特定群体进一步边缘化，加剧人类社会的分化与不平等。为了维护平等与公正的社会秩序，必须从法律层面对算法歧视进行规制。作为人工智能法律治理的先行者，在算法歧视法律规制方面，欧盟和美国发展出了各具特色的规制模式，能够为完善我国算法歧视法律规制提供一些启示。 一、 算法歧视的定义与表现 随着人工智能深入介入人的生活，算法歧视等负面效果渐次浮现，？譹？訛学界亦积极探求规制算法歧视的法律路径。？譺？訛在探讨算法歧视的法律规制路径之前，有必要了解算法歧视的定义与表现。迄今为止，算法歧视并没有科学且通用的定义。因而，理解算法歧视，宜从算法和歧视两个概念分别着手。众所周知，算法是人工智能的核心，如果将人工智能视为大数据的输入与数据分析结果的输出，那么算法就是将输入值（Inputs）转化为输出值（Outputs）的关键步骤。？譻？訛事实上，以大数据为节点，可将算法分为两种：一种是使用人类定义的模型分析数据的算法，另一种是由大数据生成和选择模型的算法。前一種算法可人工完成，其计算结果完全可预测，同样的输入值会得出同样的输出值;后一种算法不会自动使用人类定义的模型，而是从大数据里生成和选择模型，此类算法有自主学习的能力，可在运作中自动优化模型。？譼？訛对符合特定条件的申请者适用加分政策，根据申请者的总分情况决定是否录取，？譽？訛属于前一种算法;由海量再犯数据的读取和分析，总结类似罪犯群体再犯风险，再针对被告人的数据和信息，作出再犯风险评估和量刑建议，？譾？訛属于后一种算法。两种算法风险的可控性截然不同，今日人们所说的人工智能算法歧视，多指后一种算法导致的歧视。 除算法外，歧视也是一个关键概念。歧视虽然不似算法般不可捉摸，却也没有国际通用的定义标准。尽管如此，学界公认，歧视与平等互为对立面，歧视构成对平等权的侵犯。在国际人权法中，歧视有三个构成要件：一是存在差别对待，二是差别对待导致不良后果，三是差别对待的理由为法律所禁止。？譿？訛基于性别、种族、宗教、遗传特征、残疾、年龄及性取向而给予不公正待遇通常会被认定为歧视。欧洲人权法院在D.H. and Others v. the Czech Republic案中将歧视定义为“在缺乏客观且合理依据的情况下，对处于相同情况的人给予不同的待遇”，并指出“对情况相同者给予不同待遇”“对情况不同者给予同等待遇”“形式平等而实质不平等”都会构成歧视。？讀？訛美国法院在判例中确定了歧视案件审查三步曲：一是审查差别对待是否存在，二是查明差别对待出于何种理由，并据此选择适用的审查基准，三是运用特定的审查基准审查差别对待的合理性。？讁？訛我国虽未积累大量平等权案例，但是学界亦接受，歧视可理解为“缺乏合理依据的差别对待”。？輥