规范生成式人工智能产品提供者的法律问题研究.pdfVIP

2023年第7期•实务研究 规范生成式人工智能产品提供者的法律问题研究 * 孙　祁 （上海社会科学院法学研究所，上海 200020） 以 ChatGPT 模型为代表的生成式人工智能技术是人工智能领域里的一项突破性技术， 摘　要： 其在满足人们多元化需求的同时也发生了技术应用的异化，使其生成的内容存在违法风险。生成式 人工智能产品的提供者在数据来源、算法设计等决定人工智能生成内容的核心要素方面充当着“把 关人”和决定者的角色，因此，应明确其是生成式人工智能产品的责任主体。基于此，最近发布的《生 成式人工智能服务管理办法（征求意见稿）》明确规定生成式人工智能产品的服务提供者应承担产品 生成内容的生产者责任以及个人信息处理者的责任，具有正当性。然而，鉴于我国现行法在数据处理 和算法管理上的规范供给不足，以及在著作权主、客体范围的规定上存在局限性等问题，未来在立法 上，除了应进一步明确生成式人工智能产品提供者所承担的法律责任的内涵，也应体系化地对其相关 权利义务作出具体规定，以实现对生成式人工智能产品提供者法律规范的整体妥当性。 生成式人工智能；产品提供者；责任；正当性 关键词： 中图分类号：DF529　　文献标识码：A　　文章编号：1005-9512（2023）07-0162-15 DOI:10.15984/ki.1005-9512.2023.07.011 一、问题的提出 ChatGPT 作为一种大型语言模型，具有生成性和通用性双重特征，这与从大量数据中寻找隐藏模 式并形成预测的传统分析式人工智能有本质区别，以ChatGPT 模型为代表的生成式人工智能可以通 过学习、训练人类创造的海量语料库中的基础数据来生成新的内容，这对规范类ChatGPT 模型生成 式、创造性人类活动的法律提出了新的挑战。生成式人工智能的整体运作模式相比人类传统工作模 式，其最大的特殊性在于，由于人工智能生成之成果所依赖的基础数据和程序计算方式由其服务提供 者确定，故而，生成式人工智能产品服务提供者在很大程度上可以决定人工智能生成成果的合法性。 由此，对于生成式人工智能产品及其生成成果的规范重点均应当是其服务提供者。 鉴于此，2023 年4 月 11 日，国家互联网信息办公室印发《生成式人工智能服务管理办法（征求意 作者简介：孙祁，上海社会科学院法学研究所助理研究员、清华大学社会科学院在职博士后研究人员。 * 本文系中国社会科学院与俄罗斯人文科学基金会联合资助项目 “The rule of law in the digital economy in China and Russia: current state, challenges and future development”（项目批准号：21-511-93004 КАОНа）的阶段性成果。 162 规范生成式人工智能产品提供者的法律问题研究 〔1 〕 见稿）》（以下简称：《办法》）， 面向全社会公开征求意见。《办法》的颁布旨在规范生成式人工智能 技术的发展，划定责任主体，制定行业底线，特别是强调生成式人工智能产品的提供者责任，《办法》 第五条规定：“生成式人工智能提供者需“承担该产品生成内容生产者的责任；涉及个人信息的，承担 个人信息处理者的法定责任，履行个人信息保护义务。” 应当承认，《办法》第五条明确将生成式人工智能提供者确定为责任主体并划定了相应的责任范 围，是对人工智能生成成果存在违法情形时的追责规则的补充和完善。然而，《办法》作为回应新问 题而在短时间内快速出台的新规，难免在细节和协同规制方面存在提升和完善的空间，在责任划定条 款方面仍需探讨其内涵和外延，一是，需要探讨条款中所指出的生成式人工智能产品提供者责任划定 的正当性；二是，明确生成式人工智能产品提供者所承担的法律责任的内涵；三是，需要明确生成式人 工智能产品提供者享有与其所承担的责任相匹配的权利，以实现对生成式人工智能产品提供者法律 规范的整体妥当性。 二、生成式人工智能的生成内容存在合法性风险 因生成式人工智能所生成的内容直接与其输入数据源密切相关，且输入数据类型和输出内容携 带的价值判断往往多