_生成式人工智能服务的立法反思与完善.pdfVIP

2024年7月湖北经济学院学报(人文社会科学版)Jul.2024

第21卷第7期JournalofHubeiUniversityofEconomics(HumanitiesandSocialSciences)Vol.21No.7

生成式人工智能服务的立法反思与完善

方卓尔，滕达奇（天津师范大学，天津300382）

摘要：《生成式人工智能服务管理暂行办法》的出台明确数字经济发展与安全并重、创新与依法治理相结合的基本

原则，促进了生成式人工智能服务技术的发展。生成式人工智能服务现行法的适用面临个体数据安全保障不足、风险等

级未明确、责任主体未细化等难题。生成式人工智能服务应当增强个体数据保障的法律规范性，采取分级分类监管，平

衡科技创新与公民权益，释放人工智能服务市场价值，满足人工智能社会生活的多元化需求。

关键词：生成式人工智能；数据保护；风险等级划分；数据责任主体

2022年，生成式人工智能服务（GenerativeAI）行，为社会与市场所熟悉和接受。因此，《暂行办法》

的发展是引领新一轮科技革命和产业变革的战略性的出台是总结现有法律的实施情况，继承实践证明

技术。习近平总书记高度重视人工智能的发展，强的经验，对不适应现实情况的内容和制度进行修改

调人工智能有溢出带动性很强的“头雁”效应，是实补充，对市场需要规范的事项作出创设性规定，增强

现高水平科技自立自强的关键领域，是提升国家创法律的可执行性，并体现前瞻性，为生成式人工智能

新体系整体效能的重要支撑。国家网信办等七部门服务发展提供法律保障。

于2023年7月13日联合发布，2023年8月15日正式但是，人工智能的发展向来是一把双刃剑，在

施行的《生成式人工智能服务管理暂行办法》（下文ChatGPT等生成式人工智能服务逐渐风靡全球的时

简称《暂行办法》）旨在促进生成式人工智能服务健候，必然会对现有的法律规制产生理论冲击，上述所

康发展与规范应用，维护社会公共利益，保障公民、提及的法律法规对新兴的生产要素难以做到有效规

法人和其他组织的合法权益不受侵害。不同于以往制。目前，生成式人工智能所带来的法律风险主要

的分析式人工智能，生成式人工智能服务系统是指有有如下几种：

采用深度合成技术，通过各种机器学习（Machine第一，数据的保护难度加大。OpenAI为Chat⁃

Learning）方法从数据中学习对象的组件，进而生成GPT提供的在线文本数据，包括约3000亿个来自书

全新的、完全原创的内容（如文字、图片、视频）的人籍、新闻文章、博客、社交媒体、百科全书和其他来源

[1]的单词。然而，目前ChatGPT仍属于算法黑箱，Ope⁃

工智能。

一、生成式人工智能服务的立法动因nAI并未对外公示所使用的数据来源，相关训练数

[2]

人工智能1.0时代，人工智能领域产生了诸多现据库是否均获得授权还存在疑问。生成式人工智

实问题，对传统法律理论提出挑战。不置可否，法律能服务系统的数据来源未经“脱敏”而包含大量个人

自身的滞后性是无法突破的，但是可以在尊重立法信息、企业数据、公共数据，可能导致恶意使用者的

规律的基础上，坚持问题导向，基于国情制定相应的诱导性提问而泄露。

法律法规，如《新一代人工智能发展规划》《人工智能第二，部分违法犯罪的成本显著降低，侵犯公民

标准化白皮书》《人工智能治理原则》等，为人工智能合法权益的方式更加多变，社会风险加剧。比如，制

发展提供了顶层设计和指导方针，促进了人工智能作、传播虚假信息和深度伪造的技术变得更加容易，

产业生态的建设和完善，且大部分法律规则实际可使用者可以通过人工智能自动产生大量有说服力的

基金项目：天津市科研创新服务产业专项项目“论人工智能时代下的司法舆论监督”（2022SKYZ284）

作者简介：方卓尔（1999-），女，广东湛江人，天津师范大学硕士研究生，研究方向为民商法；滕达奇（1999-），男，浙江温