生成式人工智能中个人信息保护风险的类型化与合作规制_张涛.pdfVIP

网络首发时间：2024-08-3009:55:25

网络首发地址：/urlid/11.3110.d0853.002

行政法学研究２０２４年第６期

生成式人工智能中个人信息保护风险的

类型化与合作规制∗

张涛

(中国政法大学数据法治研究院ꎬ北京１０００８８讲师)

摘要:从数据生命周期的角度看ꎬ生成式人工智能在数据收集、数据清理、数据标注、模

型训练、模型评估、模型部署与推理等阶段均可能引发个人信息保护风险ꎬ如未经同意处理个人

信息、违反目的明确与最小化原则、个人信息滥用及泄露等ꎮ然而ꎬ位于规制谱系两端的“自上

而下的集中式规制”和“自下而上的分散式规制”均存在局限性ꎬ难以达到预期的规制效果ꎮ因

此ꎬ有必要采用“自中而外的规制方法”ꎬ构建合作型规制空间ꎬ调整和激活不同规制体系的回应

性和敏捷性ꎬ最终实现生成式人工智能中个人信息保护风险的合作规制ꎮ为此ꎬ有必要建构契合

生成式人工智能的科技法律ꎬ引入监管沙盒促成行政规制的包容审慎ꎬ利用分层治理实现被规制

者的自我规制ꎬ完善评估认证实现社会的第三方规制ꎮ

关键词:生成式人工智能ꎻ个人信息保护ꎻ规制空间ꎻ合作规制

①

生成式人工智能的快速发展与广泛应用ꎬ使个人信息保护面临巨大风险ꎮ为了因应生成式人

工智能的个人信息保护风险ꎬ各国(地区)也在积极采取治理措施ꎮ在比较法中ꎬ意大利数据保

护机构于２０２３年４月对ＣｈａｔＧＰＴ实施了为期一个月的临时禁令ꎬ理由是ＯｐｅｎＡＩ公司未能就其如

②

何处理用户和数据主体的个人数据提供透明的通知ꎮ欧洲数据保护委员会于２０２３年４月决定成立

ＣｈａｔＧＰＴ特别工作组ꎬ旨在研究和制定针对人工智能的通用政策ꎬ以确保个人数据的合法使用和

保护ꎮ英国信息专员办公室(ＩＣＯ)于２０２４年１月推出一系列公开咨询ꎬ主要内容便是探讨数据

保护法的规定如何应用于生成式人工智能模型的开发和使用ꎮ虽然我国的«生成式人工智能服务

－

管理暂行办法»和«生成式人工智能服务安全基本要求»(ＴＣ２６０００３)均将“尊重个人信息权

益”作为提供和使用生成式人工智能服务的基本原则ꎬ但仍然主要以“告知同意”制度作为实现

机制ꎮ这不仅可能造成个人信息保护流于形式ꎬ而且可能妨碍训练数据的汇聚ꎬ有必要进行制度

∗基金项目:教育部人文社会科学研究一般项目“数字政府时代行政机关处理个人信息的规范建构研究”(项目批号:

２３ＹＪＣ８２００５４)和湖南省哲学社科基金青年项目“人脸识别技术运用的法律规制研究”(项目编号:２０ＹＢＱ０６６)的阶段性研究成果ꎮ

－－－

①ＳｅｅＣＥＤＰＯＡＩＷｏｒｋｉｎｇＧｒｏｕｐꎬＧｅｎｅｒａｔｉｖｅＡＩ:ＴｈｅＤａｔａＰｒｏｔｅｃｔｉｏｎＩｍｐｌｉｃａｔｉｏｎｓꎬｈｔｔｐｓ://ｃｅｄｐｏｅｕ/ｗｐｃｏｎｔｅｎｔ/ｕｐｌｏａｄｓ/ｇｅｎｅｒａｔｉｖｅａｉ

－－－－－－－－

ｔｈｅｄａｔａｐｒｏｔｅｃｔｉ