生成式人工智能风险预防探究.pdfVIP

信用/法制作经济与科技曳No.5x圆园24

生成式人工智能风险预防探究

□文/范佳丽

江西理工大学江西·赣州）

［要］ChatGPT是当代技术智慧结晶，依于互联网运用到各行业，以速度快、操作简单给人的生活带来便利，但其自身

的不确定也带来潜在的法律和伦理风险。生成式人工智能创作物是否适用著作权所调整还应根据创作物外在表现形式的不同

加以区分，技术本身也应明确伦理要求以便回应立者的立法原意，服务于行业发展和文化创作传播的初衷。为预防潜在的风险，

还需通过提高生成式人工智能的伦理教育、明确人工智能创作物的作品属性以及厘清著作权权利主体分配规则等措施最终实现

主体间的利益平衡。

关键词：生成式人工智能；著作权；风险规制；利益平衡

中图分类号：D9文献标识码：A

收录日期：2023年9月9日

自2022年11月30日OpenAI发布ChatGPT以来，生成新型生成式人工智能，部分学者开始探讨如何平衡发展与治理

式人工智能受到全科技产业的广泛关注。《生成式人工智能的关系，确保生成式人工智能安全可控发展是当下亟须关注的

服务管理办法（征求意见稿）》中指出，生成式人工智能是指基重要议题。

于算法、模型、规则生成文本、图片、声音、视频、代码等内容的二、生成式人工智能潜在风险类型

技术。技术进步提升效率和生产力的同时也带来伦理风险。与。

（一）技术上引发社会安全伦理风险生成式人工智能通过

此同时，对于侵权的认定标准也引发争议。本文将运用生成式分析输入的训练样本然后模仿生成相应的内容，达到以假乱真

人工智能技术所生成的内容的风险称为人工智能创作物风险。的效果。与简单的PS不同，生成式人工智能还会学习目标对象

在上述背景下，本文以人工智能生成物潜在风险为中心，剖析的微表情、语音等生物特征。比如我们熟知的明星塌房后，影视

现行规定对生成式人工智能技术及创作物存在的风险类型及剧组通过AI换脸技术节省成本。再比如体现人文关怀精神的

理论困境。结合我国客观实践发展，探讨兼顾平衡体利益和老片复活。使用生成式人工智能制造高度逼真的以人脸替换

促进行业健发展的方案。为代表的深度伪造技术在自动驾驶、医疗诊断和娱乐教育等方

一、问题的出面都起着重要作用，但其灵活以及难以甄别的效果一旦滥用就

ChatGPT自问世以来始终处于焦点位置，它主要通过对。

会对社会甚至国家的安全造成威胁2021年底，新东方教育董

的方式自行分析然后生成相应内容。人工智能最先由美国学者事长俞敏洪一段“搞钱万能论”的主题视频在网络流传，后来该

JohnMcCarthy提出，是在计算机上通过人为植入的数据和算视频被证明是语言合成技术生成的。如果在伪造的政府官员的

法模拟人类大脑。目前人工智能主要分强人工智能和弱人工智视频中宣扬种族歧视等内容，带来的就不仅仅是错误价值观，

能两种。强人工智能像人类一样深化学习思考，以战胜世界围毫无疑问也会造成社会恐慌，引发社会风险。

棋冠军的人工智能为例，它某种程度上实现类人化操作。弱人而且生成式人工智能所带来的恐怖影响不局限于此，它逐

工智能以智能手机、电脑为代表，依赖设定的算法进行程序性渐“走向政坛”衍变成国家间新的舆论战争。美国《2019年全

操作。通过分析可以归纳出人工智能的共同特征。首先，“速威胁评估》已经提到这项技术会对美国的国家安全造成威胁，

度”，人工智能可以在较短的时间获取资料；其次，“效率”，人工