生成式人工智能责任机制的技术与法律建构_汪庆华.pdfVIP

生成式人工智能责任机制的技术与法律建构

生成式人工智能责任机制的

技术与法律建构

汪庆华胡临天*

内容摘要：以ChatGPT为代表的生成式人工智能的技术突破带来了重大的社会变革也带来了新问

，

题和挑战生成式人工智能存在语言失衡算法黑箱算法偏见的内在缺陷同时又有算法舒适圈数

。、、，、

据污染算法侵权不准确输出等负外部性这些问题导致生成式人工智能难以满足正义公平透明

、、。、、

的要求对此应充分了解生成式人工智能的显著特征和能力在人机和谐共存的关系中通过技术方案

。，，

和法律规制两个维度围绕技术优化伦理对齐算法透明算法解释与算法问责等要素建构生成式人

，、、、

工智能的责任机制。

关键词：生成式人工智能伦理对齐算法透明算法解释

目次：一生成式人工智能的特征及其应用

、

二生成式人工智能与责任机制的背离

、

三生成式人工智能责任机制的技术建构

、

四生成式人工智能责任机制的法律建构

、

结语

*汪庆华，北京师范大学法学院教授；胡临天，北京师范大学法学院博士生。

114中国法律评论

思想

Articles

算法渗透社会，但它并不总是负责任而可以被信任的，“负责任”的算法产品才能减少人们顾

虑并保证算法时代的安全。正由于算法的广泛使用，算法的驯服就成为一个现实而紧迫的问题。以

ChatGPT为代表的生成式人工智能是信息技术的最新成就，其影响也不仅停留在数据和算法的层面，

它展示出人工智能令人惊叹的可能性，但它不一定是负责任的。确定对一项技术的控制的实施时间

和程度并非易事。大卫·科林格里奇（DavidCollingridge）在《技术的社会控制》一书中提出，如

果在一项技术的早期因担心不利后果而过早实施控制，那么技术很可能难以爆发；但如果控制过晚，

技术则可能已经成为整个经济和社会结构的一部分，当走向失控时解决问题会更加困难，这便是技

术控制的两难困境。克洛伊（Croy）曾进一步解构科林格里奇困境，即控制技术的失败要么因为技

术早期对于后果的不可靠预测，要么由于技术不利后果表现出来时，该技术已经发展成僵硬而难以

1

改变的状态。面对备受瞩目的生成式人工智能，应当确保它的可问责，并且在恰切的时机对其进

行相应的治理。这一治理目标既需要从技术的层面解决现实技术短板和缺陷，也需要法律从制度的

角度进行回应，在增强技术本身的可靠性和稳定性的同时通过法律制度来建构生成式人工智能的责

任机制。

一、生成式人工智能的特征及其应用

大型语言模型具备的自然语言理解和转换为数学问题的能力、复杂推理和分步拆解的方式改变了

用户对人工智能的固有看法。ChatGPT和用户的问答，好像真的懂输入内容的意思，无论它的答复是

否让人完全满意，至少在交流上不再让人觉得是对牛弹琴，它向用户提供了不同以往的全新体验感。

ChatGPT用流畅且符合逻辑的自然语言来反馈用户的输入，它会出错也会承认自己出错，还会根据用

户的引导来改变答案，给交流的人带来了很强的“智能