创新与治理：解读生成式人工智能的最新监管动向(2023)-pwc.pdfVIP

创新与治理：

解读生成式人工智能的最新监管动向

科技、媒体和通信新知

2023年4月

简介

随着大数据时代的到来和计算机能力的迭代，人工智能把钥匙前，对AIGC的监管成了众矢之的。意大利数据保护

（AI）技术在近些年进入了黄金发展期，各国对AI技术也开局于今年3月31日宣布暂时停止使用ChatGPT，并已就

始施行不同程度上的监管。欧盟于2021年12月发布了《人ChatGPT涉嫌违反数据收集规则展开调查。除此之外，法

工智能法案草案》，而该草案规定了对高风险AI系统的监管国国家信息自由委员会（CNIL）以及西班牙数据保护机构

措施。根据该法规，高风险AI系统需要经过严格的评估和认也决定对ChatGPT立案并展开调查。在欧盟层面，欧洲数

证，以确保其符合欧洲联盟的法律和道德标准。美国虽然尚据保护委员会（EDPB）于4月13日表示，其正在成立一个

未颁布专门针对AI监管的全国性法律，然而，一些州开始在特别工作组，帮助欧盟各国应对ChatGPT，促进欧盟各国

AI领域推出相关立法。在2022年间，包括加州在内的17个之间的合作，并就数据保护机构可能采取的执法行动交换信

州对AI领域启动了立法进程。息。而美国商务部于4月11日表示，其正在就AI系统的潜在

问责措施征求公众意见。

人工智能研发公司OpenAI在2022年11月推出大语言模型

（LargeLanguageModel,LLM）应用ChatGPT，AI技术进2023年4月11日，中华人民共和国国家互联网信息办公室发

一步在普罗大众前褪去神秘的面纱。生成式人工智能（AI布了《生成式人工智能服务管理办法（征求意见稿）》

GeneratedContent,‘AIGC’）的概念应运而生，也标志AI技（“征求意见稿”），拟对生成式人工智能在我国的开发及

术正式迈入通用人工智能时代。虽然人工智能产品极大地提应用进行规范。该稿征求意见将于2023年5月10日结束。本

高了工作和生活效率，但随着近年来一系列AI应用相关负面文提取征求意见稿中的重点内容进行总结与分析。

案例的发生，加剧了立法者对AIGC应用的担忧。

在尚未确定ChatGPT是否将成为打开“潘多拉魔盒”的那

1.“生成式人工智能”的定义

欧盟的《人工智能法案草案》（“草案”）将“人工智能”代码等内容的技术”。这一定义与《互联网信息服务深度合

定义为“成管理规定》关于“深度合成技术”的解释一脉相承，但征

使用一种或多种技术和方法开发的软件，基于给定

的一组人类定义的目标，生成诸如内容、预测，影响与其互求意见稿进一步扩大并明确了生成式人工智能产品的定义范

动的环境的建议或决策之类的输出”。从字面上看，该草案围，其不仅包括基于算法生成的技术，还应包括基于模型、

规定的AIGC生成基础并不包括模型、规则等，因此引发了规则生成的相关内容。因此，ChatGPT、Bard、

一些基础模型（包括LLM）是否应纳入监管的广泛讨论。Midjourney、剪映等软件，均被纳入《征求意见稿》所规定

的生成式人工智能产品的范畴。

而根据《征求意见稿》第二条规定，生成式人工智能是指

“

基于算法、模型、规则生成文本、图片、声音、视频、

2.适用范围

《征求意见稿》的适用范围以服务对象作为依据，只要是ii.另一些全球化的AIGC产品，其未对用户的国籍或所在

“面向中华人民共和国境内公众提供服务”，无论该提供者地进行主观瞄准或筛选。即其从主观上或许并未设想

是境内还是境外主体，也无论该产品是否在境内研发或者使“中国”为其目标市场之一。在网络无国界的假设

用，都需要符合征求意见稿的相关要求。因此，如同《个人下，此类产品是否属于《征求意见稿》所适用的“面

信息保护法》，其对AIGC的监管具有域外效力。向中国”的产品？

从字面上看，《个人信息保护法》对“域外效力”的规定