算法歧视如何消除--以消费者平等权保护为研究对象.pdf

摘要

算法歧视是在算法运行过程中可能产生的歧视，亦可认为是算法进行数据分

析与自动决策的过程中可能产生的偏误。这种偏误的根本症结在于算法是以效率

为优先追求的，但这种效率优先的价值观是与人类所提倡的“公平”“正义”等

价值观存在内在冲突。平等权是宪法给予每一位公民的基本权利，在各部门法中

亦有相关保障性规定。而消费者平等权是平等权的一种类型，亦在法律中有具体

明确的规定。

消费者平等权相较于平等权具有其特殊性，其特殊性体现在三个层面.其一，

广泛性。即消费者平等权被侵害相对其他类型的算法歧视更为普遍存在；其二，

可察性。即消费行为是一个由消费者亲自决定的过程，且消费行为发生于消费者

的日常生活中，因此在这种层面上的算法歧视更易存在于显性层面，尤其当其以

价格浮动的形式展现出来时，便会直观而清晰地被察觉；其三，价值折中性。算

法追逐效率价值的本质与商品经济的效率优先相契合，法律在一定程度上保护该

种价值趋向性。在通常语境下，商业消费领域崇尚于追求效率价值被认为是有其

正常性，因此，商业消费领域的算法歧视常隐藏于“正常的商业决策”之后，并

由于存在着关于算法运行机制的技术壁垒，消费者极难证明其在何种程度上的同

种情况差别对待具备法律上的不正当性。

从权利保护层面来看，算法歧视侵害了平等权，这种侵害实施的具体方式，

需要与算法歧视形成的原因结合进行分析。以形成原因为分类标准，算法歧视大

体可分为有意识的算法歧视与无意识的算法歧视。有意识的算法歧视由其背后的

利益主体进行操纵，无意识的算法歧视由算法在运行的过程中自动产生，但无论

哪种，都通过由于算法运行而产生的实质上的算法权力进行。因此，如果需要对

此种算法歧视进行规制，则需要重点探讨算法权力产生的根源及其规制方法。对

消除算法歧视的探索，可以主要采取概念分析法和经验研究方法。从算法歧视的

相关概念入手，厘清各概念间的关系和其被提出与使用的背景，分析算法歧视的

分类、特征，利用案例对司法实践现状进行介绍，并逐步深入探讨算法歧视的根

本原因，也即算法权力的产生，并结合平等理论，从立法层面、司法层面与行政

管理层面出发探索规制进路。立法规制进路上，应当在算法编写与运行的各个环

节中进行平等理论的植入。具体措施上，包括三点，其一是将推进算法透明写入

法律，其二是在算法适用全过程植入平等理论，其三是确定算法的问责主体；司

法规制进路上，应从重构算法解释权制度、完善诉讼救济渠道、保障个人信息删

除权与更改权的实施三个层面着手；行政监管进路上，主要以建立算法安全委员

会接管算法权力为路径。

关键词：算法歧视、算法权力、消费者平等权、大数据杀熟

I

Abstract

Algorithmicdiscriminationisthediscriminationthatmayoccurintheprocessof

runninganalgorithm.Itcanalsobeconsideredasthebiasthatmayoccurwhenan

algorithmisanalyzingdataandmakingdecisionautomatically.Thekeytothiskindof

biasisthefactthatthealgorithmprioritizesthepursuitofefficiency,butthiskindof

valueofefficiencypreferenceisinternallyconflictwiththevaluewhichusually

advocatedbyhumanbeingssuchasfairnessandjusticeandsoon.Therightof

equalityisafundamentalrightgiventoeverycitizenbytheConstitution,andthere

arealsorelevantprovisionsineverydepartmentoflaw.Equalrightsofconsumer