生成式人工智能发展的风险与法律规制.pdfVIP

现代商贸工业

2024年第15期ModernBusinessTradeIndustry·223·

生成式人工智能发展的风险与法律规制

刘琪于游

(东北林业大学,黑龙江哈尔滨150006)

摘要:生成式人工智能技术是一个快速发展的技术领域,是一种利用人工智能技术自动生成内容的新型生产

方式。基于大模型、大算力、训练方法等多方面技术突破,生成性人工智能体现出全新的逻辑特点,亟须相应的全新

的法律规范出台。相比以往的人工智能技术,生成式人工智能体现出强人机交互、强语料依赖等重要特征,在技术

发展与风险控制两方面均提出新的问题与挑战,生成式人工智能所带来的法律风险日益显现,需要政府机关加强法

治措施,保障数据合规,明确归责主体,健全监管机制。

关键词:生成式人工智能;ChatGPT;个人隐私权保护;法律规制

中图分类号:D9文献标识码:Adoi:10.19311/ki.1672-3198.2024.15.074

1问题的提出2生成式人工智能发展中的法律风险

生成式人工智能(generativeAI)泛指机器学习模型2.1数据来源不透明导致生成内容侵权

通过对大规模数据集的学习,不仅可以分析数据,还能生成式人工智能的数据来源主要分为两个部分,第

够自动生成新的图像、视频、文字和音频等原创性内容。一部分为生成式人工智能的训练数据库,内容涵盖网络

ChatGPT是生成式人工智能的代表应用,它具备拟人对文本、语言学知识库、对话数据集、科学论文等。第二部

话与文本生成的能力。分为生成式人工智能在服务用户的过程中所收集和输

传统人工智能的目标主要是进行分类或回归(Clas-出的信息。对于训练数据库中未经授权的内容,该部分

sificationorRegression),被称为分析性人工智能。相比内容属于受著作权保护的客体,当生成式人工智能在未

之下,生成式AI能够创造新的内容。然而,这种技术要经授权的情况下,利用“爬虫”等技术对其进行非法挖掘

求模型在首先理解一些现有的数据(如文本指令textin-或使用需要得到法律规制。生成式人工智能需要遵守

struction)然后生成新的内容。从这个角度来看,传统AI算法透明度和可解释性的要求。我国现行法律法规对

可以被看作是现代生成式AI的基础。在实践中,生成算法透明问题多有规定,例如,国家发展改革委等部门

《关于推动平台经济规范健康持续发展的若干意见》要

式人工智能够在分析原有数据基础上创造新数据,具有

求:“在严格保护算法等商业秘密的前提下,支持第三方

拟主体的特点;同时由于生成式人工智能在绘画、作曲、

机构开展算法评估,引导平台企业提升算法透明度与可

文学和对话等领域应用的大量出现与日渐普及,自动生

解释性,促进算法公平。严肃查处利用算法进行信息内

成结果具有的刻板印象与文化偏见的问题也日益突显,

容造假、传播负面有害信息和低俗劣质内容、流量劫持

由此引发的伦理争议等一系列问题对有效治理提出了

以及虚假注册账号等违法违规行为。”与之类似,《互联

要求。

网信息服务算法推荐管理规定》第4条规定:“提供算法

在生成式人工智能发