人工智能算法黑箱的法律危机及应对策略 .pdfVIP

人工智能算法黑箱的法律危机及应对策略

作者：王玉薇任一晗

来源：《哈尔滨师范大学·社会科学学报》2022年第04期

摘要[]随着人工智能技术的飞速发展，人工智能算法逐渐操纵了人们的日常生活，也因其

黑箱问题给法律规制带来诸多难题。算法黑箱的封闭性、歧视性和风险性等特征使得算法在应

用中直接影响立法决策的准确、司法决策的公正、行政监管的规范。破解这些难题的路径在

于，制定算法透明制度，健全算法审查和算法披露制度，设立算法全流程监管机构，从而更好

应对人工智能算法黑箱的法律风险。

关键词[]算法黑箱;算法理解;算法权力;应对策略

中图分类号[]D902[文献标志码]A[文章编号]2095-0292（2022）04-0060-05

一、问题的提出

近年来，随着人工智能算法的应用，算法“黑箱”问题也引起了人们的广泛关注。算法黑箱

存在着封闭性、歧视性与风险性等相关问题，有针对性地研究和分析人工智能算法黑箱给法律

所带来的挑战及制定规制策略是非常有必要的。算法黑箱的封闭性影响立法决策的准确，人工

智能算法黑箱的歧视性影响司法决策的公正，人工智能算法黑箱的风险性加大行政监管的难

度。我国互联网信息服务领域出台的算法推荐规章制度，如2022年3月1日，国家网信办、

工信部、公安部、市监局联合发布《互联网信息服务算法推荐管理规定》，这是防范化解算法

黑箱安全风险的迫切需要，也是促进算法发展、提升监管能力现实需要。就目前来看，有学者

主张算法透明，[1]（P151-160）也有学者从监管的角度对算法进行规制，[2]（P108-114）因此

对人工智能算法黑箱法律应对的系统化研究仍需继续推进。基于此，本文尝试对人工智能算法

黑箱在立法、司法与监管方面存在的问题进行深入分析，并提出解决人工智能算法黑箱问题的

相应对策。

二、人工智能算法黑箱引发的法律危机

（一）人工智能算法黑箱的封闭性影响立法决策的准确

随着人工智能算法在立法活动中逐步应用，在应用过程中极大提高了立法决策的效率和立

法决策的客观性和专业化程度，同时也会产生封闭化的立法决策。算法黑箱在立法的过程中一

直扮演无形的支配者，阻碍了民主立法的进程，算法黑箱的封闭性影响立法决策主要体现在两

方面：

首先，人工智能算法黑箱的封闭性导致立法决策形式固化。由于算法设计研发过程是封闭

的，互联网平台企业为了实现自身利益诉求，将利益企图和行为指向植入规则驱动的算法中，

并以算法安全与算法保密为由，不公开算法设计规则和运行程序，以避免因程序漏洞、方法不

当、违规违法等问题而遭受指控。以算法自动化运行为理由，将引发风险的责任归咎于算法技

术本身，立法者信任算法黑箱输出的信息，但经过算法黑箱处理的立法信息规律性极强，加上

专业化的筛查分析，作出的立法决策具有极强的逻辑性，即使公开征求民意也不能对专业的立

法决策进行反驳。[3]（P32-36）在立法者眼里，他们的知识储备与自身职能不允许立法有失一

定的法律逻辑，即使这个决策无法体现人民群众的意志。因此，在这类问题中公开的征求意见

机制形同虚设，最后对于立法的民意调查也只能成为专家社会调查的补充。算法黑箱的封闭逐

渐形成只求法律逻辑而不顾感性的内在思维，造成立法信息的单一，进而影响立法决策的准

确。

其次，人工智能算法黑箱的封闭性导致立法决策缺乏民意。算法黑箱通过对数据分析整

合，对立法信息进行预测，最后找出多数人的偏好，就形成了民主立法信息，这样的信息看起

来客观公正，但应该考虑这是否会形成多数人暴政。公众舆论作为中央立法者了解民意的一个

普遍渠道，它的形成原因及是否客观公正是非常重要的。由于算法黑箱的封闭性使得民众参与

政治讨论的机会几乎为零，这样会造成话语被操控，这种公众舆论失去意义。例如：微博热搜

在近些年来也是可以被操控的，通过一定的技术手段去撤下热搜、雇佣水军、上热搜等引导舆

论。当立法者想要获取民意作为立法决策的参考时，算法中的数据和民意结果不能中立客观。

算法被人操控，算法偏见无法避免，并导致数据偏颇偏离民主。在立法过程中过度依赖算法黑

箱提供的数据而割裂了民意调查，一定会造成信息的不准确，甚至导致立法决策与民意相悖，

封闭的算法黑箱会在不知不觉中屏蔽掉公共意志，影响立法决策的准确。

（二）人工智能算法黑箱的歧视性影响司法决策的公正

首先，人工智能算法黑箱的歧视性可能会对案件事实的认定构成误导。由智能办案辅助系

统提出证据指引，并对单一证据、证据链和全案依据进行校验审查，是当前人工智能算法参与

司法事实认