生成式人工智能规制中的义务主体与义务分配——以ChatGPT为例.pdfVIP

２０２４年６月太原理工大学学报（社会科学版）Ｊｕｎ．２０２４

第４２卷第３期ＪｏｕｒｎａｌｏｆＴａｉｙｕａｎＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ（ＳｏｃｉａｌＳｃｉｅｎｃｅＥｄｉｔｉｏｎ）Ｖｏｌ．４２Ｎｏ．３

生成式人工智能规制中的义务主体与义务分配

———以ＣｈａｔＧＰＴ为例

万斌

（安徽大学法学院，安徽合肥２３００３９）

摘要：以ＣｈａｔＧＰＴ为代表的生成式人工智能在给人类带来机遇的同时也产生了数据来源的侵

权风险与生成内容的应用风险。目前我国对生成式人工智能的规制体系存在义务主体不清晰和义

务分配不合理的问题。在义务主体上，借鉴欧盟《人工智能法案》的规定，应当区分技术支持者、服

务提供者与使用者三类义务主体。在义务分配上，为了避免过度防范风险而阻碍技术发展，应当要

求服务提供者负担《生成式人工智能服务管理暂行办法》规定的义务并附加风险管理制度的义务；

技术支持者仅对预训练数据负责并采取技术措施避免悖伦内容生成；使用者则需合理使用生成内

容，专业使用者应负担生成内容的披露义务。

关键词：生成式人工智能；ＣｈａｔＧＰＴ；法律规制；服务提供者；使用者

中图分类号：ＤＦ０文献标识码：Ａ文章编号：１００９－５８３７（２０２４）０３－００２９－０７

引用格式：万斌．生成式人工智能规制中的义务主体与义务分配：以ＣｈａｔＧＰＴ为例［Ｊ］．太原理

工大学学报（社会科学版），２０２４，４２（３）：２９－３５，４４．

生成式人工智能指基于算法、模型、规则生成文下简称《管理暂行办法》），为生成式人工智能的规

本、图片、声音、视频、代码等内容的技术，它通过输制贡献了中国方案。

入大量数据进行预训练以理解人类指令并生成相应生成式人工智能作为一项新兴的人工智能技

内容，是深度学习领域下人工神经网络的最新应用。术，给人类带来的机遇和风险并存。对于以ＣｈａｔＧ

２０２２年可谓是“生成式人工智能元年”，这一年内陆ＰＴ为代表的生成式人工智能的规制，我国才刚刚起

续发布了Ｄａｌｌ－Ｅ２、ＳｔａｂｌｅＤｉｆｆｕｓｉｏｎ和ＣｈａｔＧＰＴ等生步，因此有必要对规制路径进行探究，为生成式人工

成式人工智能模型，其中ＣｈａｔＧＰＴ一经发布就在全智能监管体系的有序发展指明方向。本文认为，在

球引发了巨大反响。在火爆全球的同时，ＣｈａｔＧＰＴ对生成式人工智能这一创新技术进行规制时，前提

等生成式人工智能也引发了人们的忧虑，对生成式是辨别其带来的新型风险，在规制路径上明确区分

人工智能的滥用会引发诸如数据安全、隐私保护、算不同义务主体，在对义务主体分配相应义务时区分

法滥用、著作权保护等一系列风险，并且已经产生了主次，以达到防范风险的同时鼓励创新的目标。

诸多现实纠纷。

一、生成式人工智能的两类新风险

为了应对生成式人工智能产生的风险，各国的

监管部门也在积极行动。２０２３年５月１１日，欧洲人工智能技术新领域的生成式人工智能的使用

议会投票通过的《人工智能法案》（ＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉ给我们带来了大量风险，但其中大多数风险并非伴

ｇｅｎｃｅＡｃｔ，以下简称“《ＡＩ法案》”）首次将生成式人随生成式人工智能技术产生的新风险，而是在传统

工智能纳入规制范畴，《ＡＩ法案》也是域外目前最有人工智能中普遍存在的风险。例如算法滥用风险，

代表性的监管法案。我国网信办于２０２３年７月１０由于“算法黑箱”的概念早已存在，生成式人工智能

日公布了《生成式人工智能