通用人工智能创新发展带来的风险挑战及其法治应对_陈兵.pdfVIP

通用人工智能创新发展带来的

风险挑战及其法治应对

陈兵

内容提要：以ChatGPT大规模模型训练为代表的通用人工智能产业在创新发展过程中对

社会秩序造成了一定冲击，存在来自科技伦理、侵权归责、知识产权垄断、数据安全、算

法操控等多方面风险挑战，人工智能发展面临信任危机。基于此，应重视通用人工智能产

业治理，以《生成式人工智能服务管理暂行办法》的施行为契机，建立健全生成式人工智

能服务的相关行为规范和伦理指南，用系统观念和法治方法来推动通用人工智能技术和产

业在我国规范健康持续发展，促进其在“安全、可控、可解释、可问责”的基本标准下创

新发展。以问题为导向，以目标为牵引，在法治框架下尽快建立健全该领域科技伦理监督

管理规范，不断完善相应的侵权责任规范体系，统筹公平竞争与鼓励创新双重价值，加强

和改进人工智能领域数据安全保障制度，重视和强化算法监管，实现多领域、多主体、多

制度、多工具的协同联动治理。

关 键 词：通用人工智能生成式人工智能法治

一、背景与问题

全球正处在新一轮科技革命和产业变革的历史交汇期，继工业化、信息化之后，智能

化已经成为时代强音。①在国家数字经济的政策推动与垂直行业高质量发展的需求带动之

下，人工智能技术和产业一直保持着高速发展态势。随着技术创新的日趋活跃与产业融合

的不断深化，生成式人工智能技术带动各类应用百花齐放，智能自动化、推荐、搜索、决

作者简介：陈兵，南开大学法学院教授、博士生导师，南开大学竞争法研究中心主任，数字经济交叉科学中心研究员

项目基金：本文是教育部人文社会科学重点研究基地重大项目“全球数据竞争中人权基准的考量与促进研究”

（19JJD820009）、南开大学文科发展基金科学研究类青年项目“服务保障数字经济健康发展司法案例研究”

（ZB22BZ0327）的阶段性成果。

①孙伟平、李扬：《论人工智能发展的伦理原则》，载《哲学分析》2022年第1期，第6-17页。

.53.

IntellectualProperty

(Monthly)No.8，2023

策等技术也已与企业运营、社会服务等方面深度融合，带来了巨大的经济和社会效益，在

优化产业结构、增强经济韧性、实现经济从高速增长转向高质量发展等方面的重要性越来

越突出。②

一般而言，人工智能指基于一定信息内容的投入实现自主学习、决策和执行的算法或者

机器，其发展建立在计算机处理能力提高、算法改进以及数据量指数级增长的基础之上。③

·

自1956年美国达特茅斯讨论会上，约翰麦卡锡（JohnMcCarthy）首次提出人工智能概念

以来，人工智能的发展并不总是一帆风顺，其在经历了由机器学习、神经网络、互联网技

术驱动的三次繁荣发展期的同时，也遭遇了计算机算力不足、推理模型陷入瓶颈的两次低

谷期。④半个多世纪来，人工智能从以知识驱动，到以数据驱动，现发展到以安全可控为

核心的阶段。随着人工智能应用的深入和近期GPT-4等技术的爆火，新一轮生成式人工智

能（AIGC）热潮应运而生，也让人们看到通用人工智能的能力水平，然而在使用过程中，

其自身的技术缺陷以及其带来的算法黑箱、决策偏见、隐私泄露、数据滥用等问题引发了

信任危机。

党的二十大报告指出，要“完善科技创新体系”“加快实施创新驱动发展战略”“坚持

创新在我国现代化建设全局中的核心地位”“加强知识产权法治保障，形成支持全面创新

的基础制度”。然而科技创新不只是包含高歌猛进的辉煌成就，通用人工智能是一把双刃

剑，其作为高度智慧化的人工智能形态，带给人类社会的便捷与风险同在，技术应用引发

的信任危机不利于人工智能的进一步创新和发展。习近平总书记在主持十九届中央政治局

第九次集体学习时明确指出：“要加强人工智能发展的潜在风险研判和防范，维护人民利

益和国家安全，确保人工智能安全、可靠、可控。”因此，我国在大力发展人工智能的同

时，必须高度重视其带来的安全挑战，明确安全治理目标，综合运用包括法规政策、标准

规范、技术支撑在内的多项治理措施，实施敏捷治理模式，有效提高我国人工智能安全治

理能