人工智能司法的可解释性困境及其纾解.pdfVIP

财冏沂爲亠沪 人工智能司法的可解释性困境及其纾解 周媛张晓君 内容提要 ：加强对人工智能司法发展及风险的研究是时代课题 ，其中人工智能司法的可解释性困境 尤为关键 。人工智能司法可解释性指的是司法决策或行为的可理解与透明性 ，涉及基础数据 、目标 任务 、算法模型以及人的认知这四类关键要素 。不可解释困境主要是由数据失效 、算法黑箱 、智能 技术局限 、决策程序和价值缺失等因素所致 。但是 ，人工智能司法的不可解释困境其实是一个伪命 题 ，可解释性具备认知层面和制度层面两方面基础 。纾解困境的具体策略包括 ：构建司法信息公开 共享制度 ，提高有用数据的甄别与利用效率 ；从软硬法结合视角建构司法系统的运行标准与制度规 则 ；从全过程视角强化主体之间的协同治理 ；通过指导性案例和司法解释赋权法官的司法解释空 间 ，提高法律解释技术 ；强化交叉学科人才建设 ，提高对人工智能司法决策模型的引领 ；发挥法官 的自律与能动性 ，实现司法智能决策的人机协同 。未来 ，不仅需要把握司法价值与技术理性的平 衡 ，还需考虑人工智能对司法的差异化介入 ，推动人工智能司法战略目标实现。 关键词 ：人工智能司法算法可解释性协同治理 一 、问题的提出 党的二十大报告明确提出 ：“构建新一代信息技术 、人工智能 、生物技术 、新能源 、新材 料 、高端装备 、绿色环保等一批新的增长引擎 。”自2015年起 ，人工智能与司法工作深度融合 发展战略上升为国家战略 ，各地纷纷开启智慧法院建设步伐。〔 °从智慧司法1・0到4.0,人工 智能司法已成为一种现实 ，深刻地改变着传统法院的组织能力与管理结构 ，冲击着诉讼架构和程 *周媛 ，上海交通大学凯原法学院博士研究生 ；张晓君 ，西南政法大学国际法学院教授。 本文为国家社会科学基金项目 “城市更新中促进绿色建筑发展法律机制研究” (21BFX136)的阶段性成果。 〔1 〕如上海刑事案件智能审判系统 、北京 “睿法官”审判辅助系统 、河北 “智审”审判系统和浙江 “金融智慧庭审平台” 等 。参见聂友伦 ：《人工智能司法的三重矛盾》 ，载《浙江工商大学学报》2022年第2期。 • 3・ 2023年第2期 序机制 ，重塑法律人的理念 、情感 、行为乃至结果模式 ，甚至影响整个司法权力在国家权力架构 中的定位。〔2 ）但对于智慧法院建设 ，学界呈现两种分歧立场 ：一种观点认为 ，从司法本质看人 工智能司法具有主体正当性 ，从司法裁判的手段看智能裁判具有逻辑正当性 ，从司法过程看人工 智能司法具有程序正当性 ，从司法结果看智能司法具有结果正当性 ，因此 ，人工智能司法的整体 正当性充足 。〔3 ）另一种观点认为 ，人工智能司法的运用程度有限 ，只能作为一种实现司法正义 的辅助手段 ，不能排斥法官的心证和裁量 ，这是其运用所应遵守的基本原则 。〔 °然而 ，法律是 一种风险控制机制 ，习近平总书记在中国共产党第十九届中央政治局第九次集体学习时强调： “要加强人工智能发展的潜在风险研判和防范 ，维护人民利益和国家安全 ，确保人工智能安全 、可 靠 、可控 。要整合多学科力量 ，加强人工智能相关法律 、伦理 、社会问题研究 ，建立健全保障人工 智能健康发展的法律法规 、制度体系 、伦理道德。” 〔5）法律是风险识别和控制的主要手段 。法律 是一种社会建构 。因此 ，对法律的合适态度 ，应该是审慎而非颂扬（celebration） 。〔6）法律的保 守主义立场使得我们更需要保持一种批判主义研究进路。 目前学界对人工智能司法的批判性研究成果大致可归为以下几个方面 ：一是人工智能司法产 品运用过程中外部技术环境的限制 ，最为典型的是作为智能司法决策基础的司法数据样本存在 “伪充分性，⑺ 还包括法律语言与计算机语言的隔阂等 ；二是人工智能内在的技术困境 ，典型 的是算法歧视 、算法黑洞与算法霸权 ；三是人工智能的伦理与价值困境 ，体现在人工智能无法对 司法正义作出实质性权衡 ，也无法复制法律人的 “情怀”和 “匠心四是人工智能受到司法 环境的制约 ，如国家的政策性 、政治性因素 ，地域因素 ，