生成式人工智能在司法中的运用：前景、风险与规制.pdfVIP

2023 年第 4 期 生成式人工智能在司法中的运用： 前景、风险与规制 郑　曦 * 内容摘要 ChatGPT 等生成式人工智能对社会生活的许多方面产生影响，带给人们巨大的 冲击。在司法领域，生成式人工智能亦有广阔的运用前景，如可用于“示意证 据”的生成、诉讼文书的制作等，从而带来裁判方式的变革。然而生成式人工 智能在司法中的运用也会带来一些问题，如信息真实性方面的缺陷、裁判方式 方面的挑战和数据安全方面的风险等。在此种情况下，应当从防范虚假信息、 限制生成式人工智能裁判、保护数据安全等多个层面着手对生成式人工智能进 行规制，实现其在司法中的合理运用。 关键词 生成式人工智能　ChatGPT　司法　公正 一、问题的提出 美国 OpenAI 公司发布的 ChatGPT 引起了全球轰动，也使得生成式人工智能（ Generative AI） 成为万众瞩目的焦点。所谓生成式人工智能，是指是一种可以创建各种数据，如图像、视频、音 〔1 〕 频、文本和 3D 模型的人工智能系统， 其典型任务涉及生成高维数据，如文本或图像，此种生成 式内容也可用于合成数据，以减轻深度学习海量数据的需求。〔2 〕 生成式人工智能的雏形最早可追溯至 1954 年，IBM 公司在其位于纽约总公司的乔治城 -IBM * 北京外国语大学法学院教授、博士生导师。本文为北京外国语大学本科教学改革与研究项目“涉外法治人才培 养中的问题与对策研究”（项目编号：XJJG202102 ）的阶段性成果，并受北京外国语大学卓越人才支持计划支持。 本文写作中得到了北京外国语大学法学院博士研究生朱溯蓉的协助。 〔1 〕 Chaoning Zhang, et al., A Complete Survey on Generative AI (AIGC): Is ChatGPT from GPT-4 to GPT-5 All You Need? arXiv:2303.11717, p.2, (2023). 〔2 〕 Ruifei He, et al. Is Synthetic Data from Generative Models Ready for Image Recognition? arXiv:2210.07574, p.2, (2022). 81 2023 年第 4 期 〔3 〕 实验中公开展示的机器翻译系统被视为生成语言学的初探。 1957 年在伊利诺伊大学香槟分校的 ILLIACI 计算机上，由莱杰伦·希勒（ Lejaren Hiller）和伦纳德·艾萨克森（ Leonard Isaacson） 合作完成的乐谱《 Illiac Suite》被视为第一首由计算机创作的音乐作品。〔4 〕1966 年世界上第一个 〔5 〕 聊天机器人“伊莉莎（ Eliza）”问世，它能够通过关键字扫描和重组完成交互任务。 但是，通 过人工智能进行内容创作的早期成功并没有延续， 1974- 1980 年、 1987- 1993 年，人工智能遭遇 两次寒冬，直至 2014 年以生成式对抗网络（ GAN）为代表的深度学习算法的提出和迭代更新， 才使生成式人工智能的研究得以继续。2018 年微软开发的聊天机器人“小冰”能够通过文本界面