基于风险的通用人工智能监管——从欧盟《人工智能法案》视角展开.pdf

科技与法律（中英文）2024年第2期总第20期

SCIENCETECHNOLOGYANDLAW（CHINESE-ENGLISHVERSION）

DOI:10.19685/11⁃2922/n.2024.02.009

基于风险的通用人工智能监管

———从欧盟—从欧盟《《人工智能法案人工智能法案》》视角展开视角展开

江海洋，魏书敏

（山东大学法学院，山东青岛266237）

摘要：以ChatGPT为代表的通用人工智能火爆全球，在改变我们生活以及提升生产效率的同时，也引发了一系列的监管

挑战。为此，欧盟《人工智能法案》采取了一种基于风险的监管方法，通过对不同人工智能的风险进行评估，将人工智能风

险分为不可接受的风险、高风险、有限风险、最小风险几个等级，并对应赋予了相应等级的义务。但是，鉴于通用人工智能

无固定任务性、适应性、突现性等特点，对其监管有别于传统人工智能，欧盟此种自上而下的静态风险规制路径难以有效监

管通用人工智能。因此，有必要采取一种动态风险规制方法，将人工智能风险类别转化为动态风险情景，把风险的主要因

素类型化为危害、暴露、脆弱性以及反应。在判断风险的等级时，需综合危害、暴露、脆弱性以及反应四个要素。同时，鉴于

提供者、私人机构制定高风险标准的缺陷，应由立法者授权相关行政主管机关制定高风险的标准，并立足于通用人工智能

的开发到使用进行全流程监管。

关键词：通用人工智能；欧盟人工智能法案；基于风险的方法；动态风险；ChatGPT

中图分类号：D923文献标志码：A文章编号：2096-9783（2024）02⁃0088⁃10

时，很难将大模型归入某一预设的特定场景中[2]。通

一、问题的提出用人工智能系统或提供的服务通常会被整合到下游

的多个人工智能系统中，被用于上游提供商未监督或

以ChatGPT为代表的人工智能正在撼动研究界未设想到的多种用途，这既包括普通的“插件”，如用

乃至整个社会，迅速改变着我们交流、创造和工作方于分析、翻译语言的插件，也包括可以自动生成文本、

式，其中通用人工智能系统(GPAIS)最为引人瞩目。将语音转换成文本、自动机器人助手等多功能大型语

人工智能的大多数应用程序都是为有限的特定任务言模型等。

而设计的。通常情况下，这些模型是由专家手动设计通用人工智能模型正在迅速改变我们的交流、创

的，从数据收集、数据建模到部署，要经过许多步骤，造和工作方式，影响社会的各个领域，从商业发展到

这些步骤被称为机器学习(ML)生命周期[1]。遗憾的医疗，从教育到研究，从编码到娱乐、艺术。通用人工

是，大多数这些模型通常缺乏泛化能力，无法在未见智能模型蕴藏着巨大的潜力，但也存在着巨大的风

过的任务中表现出色，因此，它们的实际应用仍局限险。如今，数百万用户依靠通用人工智能生成人类水

于训练时所针对的任务。然而，有许多场景需要更通平的文本（如GPT-4、Bing）、图像（如StableDiffu⁃

用的人工智能去解决一系列任务，而无需专门为它们sion、DALL-E2）、视频（如Synthesia）或音频（如Mu⁃

设计，这些人工智能系统往往就是指通用人工智能系sicLM），而更多的替代方案已经在酝酿之中。这种多

统(GPAIS)。通用人工智能系统能解决不止一项任模式决策引擎可以