Generative AI生成司法决策的可靠性困境及其应对.pdfVIP

2024年11月天津大学学报（社会科学版）第26卷第6期

Nov.2024JOURNALOFTIANJINUNIVERSITY（SOCIALSCIENCES）Vol.26No.6

GenerativeAI生成司法决策的可靠性

困境及其应对

12

武振国，周健

（1.北京科技大学文法学院，北京100083；2.最高人民法院第二巡回法庭，沈阳110179）

摘要：在人工智能时代，GenerativeAI能否取代人类裁判者已经成为了一个热门话题。但该技术直接生成司法

决策却在可靠性方面存在困境。根据信息不对称理论，GenerativeAI的算法原理和数据库具有黑箱属性，可以通过

不对称的信息对人类形成不对称的权力，最终将真实数据导出为不可靠的虚假信息。在技术依赖的前提下，人类自

我意识的逐渐封闭将进一步放大GenerativeAI信息不对称的优势，最终形成司法决策不可靠的困境。为了破解上

述困境，需要从人机之间信息对称的视角出发，勘定GenerativeAI介入司法决策活动的边界，合理界定Generative

AI和裁判者之间的功能定位和职能范围，严格审查GenerativeAI的输入和输出内容。

关键词：GenerativeAI；虚假信息；可靠性；司法决策；算法黑箱

中图分类号：DF01文献标志码：A文章编号：1008-4339（2024）06-512-09

随着美国和印度等国家开始利用生成式人工智能优势，最终在法律层面冲击司法决策的可靠性[2]。

（GenerativeArtificialIntelligence，以下简称Generative目前，在我国大力推进司法决策智能化的背景下，

AI）进行司法决策，GenerativeAI能否自由熟练地适以虚假信息生成风险为切入点，对GenerativeAI生成

用法律并完全取代人类成为了一个热门话题。但是，司法决策的可靠性问题和应对策略进行深入研究，不

根据信息不对称理论，各方对信息的掌握程度是有差仅具有现实意义，而且具有理论上的创新性。实际上，

异的，信息充足的一方在和信息贫乏的一方博弈时往GenerativeAI之所以易于生成人类无法控制的虚假信

往能够占据优势地位。具体到法律领域，信息不对称息，正是因为GenerativeAI的工具理性与人类的价值

理论主要表现为知情权理论。例如，在对Generative理性之间信息不对称[3]。如果GenerativeAI介入司

AI的司法决策过程不知情时，人类便接受或者依赖法决策的过程不能得到有效监管，势必损害裁判结果

GenerativeAI，极易导致其在人机博弈中处于劣势地的可靠性。当然，也不能完全忽视司法决策的效率要

位，最终损害人类的合法权益。由于GenerativeAI所求。可以采取审慎且包容的态度，在明确裁判者主体

依托的算法和数据库都不透明，可能导致其生成虚假性地位的基础上弥合信息差，通过人机协同构建Gen-

信息，进而对用户决策造成风险[1]。国家互联网信息erativeAI生成司法决策的审查机制，进一步对Gener-

办公室（以下简称网信办）于2023年公布的《生成式ativeAI的输入内容和输出内容进行识别和矫正。

人工智能服务管理暂行办法》第4条认为，Generative

AI等生成式人工智能技术具有生成虚假信息的较大一、先天不足：GenerativeAI生成