算法透明机制的局限性及其克服.pdfVIP

华东政法大学学报2025年第1期

算法透明机制的局限性及其克服

戴维王锡锌*

目次

一、问题的提出

二、算法透明的理论逻辑与立法现状

三、算法透明的规则表达及其现实困境

四、算法透明机制的重构

五、结语

摘要在算法治理语境中，算法透明被视为一种解决算法黑箱问题的主要机制。算法透明机

制已得到广泛讨论，在理论上发展出以技术披露和决策解释为核心的双线模式。双线模式要求算法

技术能够被公众“看透”或“理解”。但该模式未能充分考虑算法可解释性障碍和公众认知局限，在实

践层面遭遇来自技术和制度的双重挑战，这可能导致透明机制的失效和透明度期待落空。鉴于可解

释人工智能的技术属性，伴随以算法信任为核心的治理理念的兴起，我们需要反思算法透明机制的局

限，完善面向公众的算法透明机制。这种“面向公众的算法透明机制”应当以提升公众信任为目标，将

透明机制作为信任沟通的工具，向公众传递有助于算法可信度评估的重要信息，建立真正服务于公众

的算法透明机制。

关键词算法透明算法信任可解释人工智能算法治理

一、问题的提出

算法技术已深度介入人类生活的方方面面，人类已然置身于算法支配的世界，但公众却“不知规

则、不知理由”。弗兰克•帕斯夸莱（FrankPasquale）教授将这种情形描述为“算法黑箱”。〔1〕

长期以来，

学界将透明机制作为解决算法黑箱问题的首要方案，希望通过披露算法技术信息使公众了解算法运

*戴维，北京大学法学院博士研究生；王锡锌，北京大学法学院教授，法学博士。

〔1〕参见［美］弗兰克•帕斯奎尔：《黑箱社会：控制金钱和信息的数据法则》，赵亚男译，中信出版社2015年版，第20页。

33

戴维王锡锌算法透明机制的局限性及其克服

作逻辑，或者通过说明理由使公众理解和接受算法决策，进而构建出以“看透技术”和“理解决策”为

核心的算法透明双线模式。从呼吁公开源代码、披露算法模型系统功能信息，再到事后解释具体算法

决策，学者们不断尝试通过公开、披露和解释手段的拼接组合，寻求彻底打开“黑箱”以实现透明的方

〔2〕

法。然而，与理论设想形成鲜明反差的是，这种双线模式在规范表达和制度实践中均陷入困境。学

〔3〕

界也不乏质疑算法透明必要性和可行性的声音，甚至有观点直指算法透明无法满足人们对它的功

能期待，既不可行，亦无必要。〔4〕

本文认为，算法透明机制所面临的困境主要在于，沿袭传统透明度逻辑而建构出的双线模式忽视

了“算法黑箱”与“权力黑箱”在成因及特性方面的根本差异，导致算法透明机制“目标—手段”的不

匹配和功能失灵。目前，算法治理理念呈现出由技术中心向以人为本的转变，算法信任作为算法治理

的统领目标已经成为共识，这可以为陷入困境的算法透明机制指引新的发展方向，使算法透明机制真

正为公众服务。

二、算法透明的理论逻辑与立法现状

（一）理论沿袭：从传统透明到算法透明

传统透明理论通常将看透一个系统内部的能力与有效控制和问责该系统的能力相关联。〔5〕

作为

帮助公众直接观察系统的窗口，透明机制要求公权力机关向公众公开决策内容，披露决策程序，并论

证决策和行为的正当性与合理性，以此对抗权力运行中的秘密、肆意和腐败。透明机制有利于保障公