生成式人工智能个人信息安全挑战及敏捷治理.pdf

2024年第1期征信No.12024

总第300期CREDITREFERENCESerialNo.300

【征信与法】

生成式人工智能个人信息安全挑战及

敏捷治理

邹开亮，刘祖兵

（华东交通大学人文社会科学学院，江西南昌330013）

摘要：生成式人工智能秘密收集个人敏感数据，冲破“知情同意”原则和“最小必要”原则的限制，或将使信息关联

违法高发。生成式人工智能信息收集行为主动、收集内容全面、泛化能力强劲，对“知情同意”原则和“最小必要”原

则带来严重挑战。宏观层面，我国现有民事法律无力于数据安全治理，刑事法律缺乏明确的违法计量标准，由行政

法规挑起数据法治大梁。微观层面，我国现有法律规范体系对被侵权人加以不合理的举证义务，司法救济路径单

一，不利于权利救济。选择风险控制路径，从算法协议透明化、治理场景化和多方位协同化应对信息关联违法等方

面展开制度构建，引入个人敏感数据单独监管制度和预防性公益诉讼制度破解该困局。

关键词：生成式人工智能；个人信息安全；敏捷治理；预防性公益诉讼

中图分类号：F832.1；D922.16文献标识码：A文章编号：1674-747X（2024）01-0041-10

暂行办法》（以下简称《办法》），旨在促进生成式人工

引言

智能健康发展和规范应用。2023年8月，公安部网

随着生成式人工智能（GenerativeArtificialIntel⁃络安全保卫局在新闻发布会上表示，公安机关紧盯

ligence，GAI）技术的日臻完善，ChatGPT（ChatGener⁃ChatGPT、云计算、区块链、“AI换脸”等利用人工智

ativePre-trainedTransformer）等工具迅速活跃于各能技术侵犯公民个人信息的案件，循线深挖下游犯

大应用市场，成为赋能数字经济持续发展的重要罪线索，连带破获电信诈骗、网络盗窃和网络洗钱等

驱动。然而，国际网络安全公司Group-IB报告显个人信息关联犯罪案件。面对发展生成式人工智能

示，2022年6月至2023年5月，超过10万用户的个技术与保障个人信息安全的两难困局，本文在结合

人信息遭到泄露并流向暗网市场。一时间，生成式我国人工智能法治建设现状和域外成功经验的基础

人工智能信息安全问题饱受诟病。2023年3月31上，试图探索契合我国生成式人工智能发展的个人

日，意大利个人数据保护局率先禁止使用聊天机器信息安全的敏捷治理路径。

人ChatGPT。其后，法国、爱尔兰、德国等西方算法

一、实践挑战：生成式人工智能的行为解构及个

强国也纷纷效仿。我国高度重视生成式人工智能的

人信息安全威胁

发展与应用，2023年7月，国家网信办联合国家发展

改革委、教育部、科技部、工业和信息化部、公安部、ChatGPT的“火爆出圈”，将生成式人工智能带

广电总局七部门联合发布了我国首部规制生成式人入大众视野。生成式人工智能是基于机器学习算法

工智能的部门规章——《生成式人工智能服务管理实现机器自动生成多类型数据的算法模型，不仅能

收稿日期：2023-09-18

基金项目：国家社会科学基金一般项目（21BFX126）；江西省研究生创新专项资金项目（YC2022-s543）

作者简介：邹开亮（1978—），男，江西丰城人，副教授，硕士，硕士生导师，主要研究方向为人工智能法学、经济法；刘祖兵（1988—），

男，江西南昌人，硕士研究生，主要研究方向为人工智能法学、经济法，本文通信作者。