生成式人工智能背景下个人信息保护问题的研究.pdfVIP

研发应用

生成式人工智能背景下 

个人信息保护问题的研究

徐 珊

（长安大学人文学院，陕西 西安 710064）

摘要：随着生成式人工智能技术的发展，个人信息保护面临严峻挑战。为应对数据运算中隐私泄露的问题，

需构建完善的数据来源合规监管机制，保障个人信息处理合法正当。同时，提高技术算法透明度与可解释性，强

化AI领域伦理规范应用；完善侵权责任认定路径，为个人信息受损者提供充分法律救济，形成有效法律威慑。

关键词：生成式人工智能；算法黑箱；个人信息保护

治理的复杂性，对数据风险的管理以及个人信息保护提出了

一、问题的提出

新挑战。

生成式人工智能为教育、娱乐、医疗保健和科学研究等当前关于个人信息保护的立法规定，主要体现在《民法

多个领域提供了变革潜力，但也对既有的个人信息保护体系典》和《中华人民共和国个人信息保护法》中，而在私法方

形成了巨大冲击与威胁。生成式人工智能与个人信息保护，面的空白[3]，《中华人民共和国个人信息保护法》《中华人民

表面不同领域，实则紧密相连[1]。前者以数字技术前沿，构共和国网络安全法》（以下简称《网络安全法》）《中华人民共

建新颖内容；后者则保障数字时代个人信息权益。个人信息和国消费者权益保护法》《最高人民法院关于加强新时代知

保护旨在制衡“数据权力”，即数据处理的潜在影响。生成识产权审判工作为知识产权强国建设提供有力司法服务和保

式人工智能凭其数据处理能力，展现“数据权力”，创造新障的意见》等均作出相关规定。

价值时触及个人信息边界，数据收集也会越无止境。例如，我国主要通过《网络安全法》《数据安全法》《个人信息

利用AI进行换脸、AI替换声音，通过伪造图片和音频进行保护法》以及《算法推荐规定》《深度合成管理规定》等法

犯罪，更有借助生成式人工智能收集分析个人信息进行辅助律法规[4]，结合《科技伦理审查办法（试行）》（征求意见

诈骗[2]，伪造虚假信息及新闻对当事人进行造谣诽谤，侵犯稿）和最新的《生成式人工智能服务管理暂行办法》（以下简

个人隐私，同时危害社会秩序安全。技术的发展不应以牺牲称《暂行办法》），对生成式人工智能引发的个人信息数据风

个人信息为前提，需跨领域综合分析，不断审视生成式人工险进行规制，这些法规体现了我国针对人工智能技术不同方

智能在个人信息保护上的挑战与机遇，探索出技术创新与个向进行差异化监管的思路[5]。

人权益保障的可行路径。

三、生成式人工智能下对个人信息保护的必要性

二、我国人工智能及个人信息保护运行的立法现状

生成式人工智能作为新兴科技迅猛发展，深刻改变人类

为引领人工智能发展，我国自2017年起逐步构建对人社会与国际格局，其核心优势是强大的数据处理与创造能力，

工智能的法律规制体系。国务院发布的《新一代人工智能发推动个人信息价值转化，赋予其新经济活力与社会意义。

展规划》明确了人工智能发展的“三步走”战略，而《新一（一）明确个人信息所有者权利和使用者的义务

代人工智能治理原则》与《新一代人工智能伦理规范》的出个人信息不仅是数据资源的重要组成部分，更是个人隐

台，则强调“发展负责任的人工智能”的重要性。进入2022私与自由的直接体现。明确个人信息所