生成式人工智能(GAI)个人信息风险法律规制探究.pdfVIP

中国信息界|InformationChina

生成式人工智能（GAI）

个人信息风险法律规制探究*

文◆苏州大学王健法学院 刘 炎

引言顾主体差异和规制个人信息风险

生成式人工智能（GenerativeArtificialIntelligence，以下简称为GAI）成为GAI应用管理的难关。

是一类基于机器学习和深度学习算法的人工智能系统，其因创新性输出多

元形式数据的特点而得到大众青睐，应用范围不断拓展，已逐步渗透到教2GAI应用背景下的个人信息

育、科研、媒体、娱乐、设计、商业等多个行业。然而，GAI的应用催生风险法律规制现状

了各种各样的个人信息风险，对其进行法律规制势在必行。生成式人工智站在私法角度来思考GAI个

能应用背景下的个人信息风险包括泄露个人信息、侵害用户隐私等负面现人信息风险规制这个问题，主要

象，其主要风险特征包括发生的不确定性和主体的差异性，根据GAI个包括意思自治的法律行为制度、

人信息风险的法律规制现状，应构建一套生成式人工智能个人信息风险“行为—责任”的追责制度。“法

法律规制的优化对策，为生成式人工智能的开发和改良提供参考和帮助。无禁止即可为”，意思自治的法

律行为制度允许人们依据个人意

1GAI应用背景下的个人信息风险图决定个人事务，包括自由行使

（1）风险表现。生成式人工智能是利用人工智能技术生成文本、音权利、平等行使权利等[3]。2021

频、图像或三维模型等内容，在其应用的整个过程中伴随着个人信息泄年1月，我国正式施行《中华人

露风险，对个人信息权益、人格权益都造成了负面影响[1]。具体体现在民共和国民法典》，根据《中华人

GAI自动获取具有用户身份特征、承载用户隐私期待的信息内容，自动民共和国民法典》（以下简称《民

分析生成丑化、贬损的虚假用户信息，侵害用户隐私。例如，以GAI为法典》）关于侵权责任的划分，以

支撑的深度合成类App“ZAO”的用户协议中规定，用户必须无条件同私法为视角，以一定归责事项为

意提供其个人信息，包括语音、人脸、指纹等个人生物特征信息，软件基础，以损害后果、行为违法性、

可自动搜集用户个人信息，造成用户个人信息泄露或被随意公开利用。因果关系、主观过错为要素，确

（2）风险特征。生成式人工智能应用背景下的个人信息风险具有发定侵害权利责任承担，包括过错

生不确定性、主体差异性等特征。一方面，GAI应用背景下的个人信息责任、无过错责任、过错推定、

风险发生时间、地点、波及范围、影响程度都具有不确定性，人类无法公平责任等。私法讲究意思自治，

判定GAI应用泄露个人隐私信息的时间，也无法判定造成GAI泄露的意思自治的法律行为制度在实施

微型终端所处位置，给风险规制提出了较大难题[2]。另一方面，GAI应过程中，面临着个人意思能力与

用背景下的个人信息风险具有主体差异性，其不仅让普通个人信息受到意思合意理解不当、权利负担偏

侵害，还让开发者也无法逃