生成式人工智能使用者的法律责任问题研究.pdf

问题研究

生成式人工智能使用者的法律责任问题研究

□张璐

摘要：以ChatGPT模型为代表的生成式人工智

二、生成式人工智能的生成内容存在违法

能技术，其功能性较之传统人工智能有了大大提升，

风险

但其隐藏的技术异化也让生成的内容存在违法风险。

而生成式人工智能技术产品的责任主体不仅包括产以ChatGPT模型为代表的生成式人工智能，在

品提供者，广大使用者更是重要的责任主体，在使技术路线上采用“自然语言处理+搜索引擎集成”

用生成式人工智能技术产品时由于欠缺相关专业知的架构，这就使得生成式人工智能最终所呈现的内

识难免会产生一些法律问题。为了规范生成式人工容不仅直接与设计者预先输入数据源有关，同时与

智能技术，我国发布了《生成式人工智能服务管理使用者终端输入的搜索指令也有密切关联。输入的

暂行办法》。然而，鉴于现行规定仍存在局限性，数据源因提供者的不同而多种多样，生成的内容也

未来还要在明确责任主体、使用者权利等方面进一因使用者选择不同而参差不齐。这必然会导致以往

步完善。不曾出现的法律规制风险与科技伦理挑战，如个人

关键词：生成式人工智能法律责任用户责任隐私保护缺位、侵害著作权等相关问题。

知识产权保护（一）侵犯公民个人信息和名誉的风险

1.对个人信息的使用必须符合《个人信息保护

一、问题的提出

法》第十三条的规定，即确保在事先获得信息主体

[2]但为了保证数据

以ChatGPT模型为代表的生成式人工智能，较的同意的前提下进行数据收集。

传统人工智能，在技术上大不相同，不再是机械地源足够充足，使尽可能多的信息进入系统中，技术

学习，能在算法的控制下进行“自主学习、创造”提供者在此过程很难做到逐一向每一个主体征求同

生成新的内容，这一技术突破也对相应的规范提出意。基于此，使用者已经面临着对公民个人信息侵

[1]生成式人工智能生成的产品主要取害的风险了。一方面，使用者面对大量涉及个人的

了新的挑战。

决于程序设计者预先植入的基础数据和程序计算，信息，仅看到了对自己有利的信息，加以获取使用，

然而使用者在使用时会因依赖、信任的心理，对呈很难对集中提供的数据是否侵犯个人信息加以甄别。

现出的结果不加甄别便据以运用，所以使用者在一另一方面，使用者从生成式人工智能中获取到相关

定程度上可以影响人工智能生成产品的合法性，因个人信息后，如何进行使用，我们不得而知。若后

此对使用者的规范同样重要。续使用者对获取到的个人信息并不能进行完全合法

我国自2023年8月起实施的《生成式人工智能的使用，即将获取到的信息再进行加工、公开使用

服务管理暂行办法》（以下简称《办法》），旨在或传播，此过程可能造成个人信息的泄露，危害个

加强对生成式人工智能服务的管理，明确服务提供人信息安全。

者的责任和义务，保护用户权益，但对生成式人工