ChatGPT应用的风险迭代与法律因应研究.pdf

电子政务E-GOVERNMENT2023年第12期（总第252期）81

学术篇

ChatGPT应用的风险迭代与法律因应研究

①②③

王惠敏许峰蔡士林**

①江苏师范大学法学院

②中共浙江省委党校全面从严治党研究中心

③中国矿业大学科技与法律研究中心

摘要：ChatGPT作为人工智能系统的巅峰之作，极大地改变了人机互动、数据获取的方式，加速了物理空间向虚拟社会迁移

的进度。ChatGPT经历了GPT-1至GPT-4的迭代，在算法、数据和技术架构共同作用下其表现出高度的智能性和自主

性。新技术通常体现出“危”与“机”并存的特性，ChatGPT隐藏的风险可以归纳为内生性风险和外生性风险，前者

包括算法歧视和数据安全问题，后者则包括生成内容知识产权纠纷和ChatGPT异化为犯罪工具的隐患。有鉴于此，应

当内外兼修消除ChatGPT中的算法偏见；更新数据生存周期的法律保护体系；引入行政合规制度，预防犯罪滋生；优

化既存版权规则，构建多元利益保护体系。

关键词：ChatGPT；人工智能治理；生成式人工智能；内生性风险；外生性风险；数据安全；行政合规

DOI：10.16582/ki.dzzw.2023.12.007

一、问题的提出言之，一方面，ChatGPT对话系统的高度智能性和真

ChatGPT（chatgenerativepre-trainingtransformer，实性标志着弱人工智能时代正在向强人工智能时代过

生成式预训练转换器）自2022年推出之后迅速出圈，打渡，这也意味着它将会创设新的风险。例如，用户利

[1]

破了多项世界纪录。随着技术的迭代，ChatGPT也经用ChatGPT足不出户就可以生成各种新颖的艺术“作

历了从GPT-1到GPT-4的进化，它不仅在性能上碾压同品”，此类“作品”是否具有版权便面临诘难。另一方

类产品，而且可以实现与用户社会生活的无缝衔接，面，随着训练数据和参数值的增长，人们对于ChatGPT

演示真正意义上的“机智过人”。例如，作为科学家的依赖性也同步递增，如果法律规范缺失，互联网的倍

的福音，ChatGPT可以轻松实现实验数据收集、文献检增效应和放射效应会加剧ChatGPT失控引发的社会危害

索、论文撰写等目标；又如，作为广告公司的利器，性。例如，算法的不可控风险致使ChatGPT生成内容会

ChatGPT能够根据应用场景帮助公司设计宣传海报、图根据传播的概率和用户的喜好进行自我调整，甚至脱离

文调色、灯光调试等；再如，作为自媒体时代的法宝，人类掌控，如此一来网络谣言便不可避免。

ChatGPT可以加速新闻生成和传播。简言之，未来以中国的监管机构和立法者也意识到这一点。2023年

ChatGPT为代表的人工智能系统将成为我们生活的一部4月，国家互联网信息办公室发布了《生成式人工智能

分，强人工智能时代已经到来。服务管理办法（征求意见稿）》（以下简称《征求意见

ChatGPT为用户带来极佳体验的同时，也隐藏着包稿》）对人工智能系统的规范使用做了部分规定。但

括算法歧视、数据风险以及知识产权纠纷等副作用。《征求意见稿》仅是宣示性规定，且多处内容与既存的

ChatGPT作为新兴技术，不仅关系数字经济的发展，《数据安全法》和《个人信息保护法》重叠。基于此，

而且与国家安全体系和能力现代化建设息息相关。详应当结合ChatGPT的特征，对其风险予以类型化，并在

**通