欧盟人工智能数据安全监管制度特点及启示.pdfVIP

网络空间战略论坛

CyberspaceStrategyForum

欧盟人工智能数据安全监管制度特点及启示

文│重庆邮电大学网络空间安全与信息法学院徐伟重庆邮电大学网络法治研究中心李文敏

【摘要】在数字经济快速发展的时代背景下，构建全面、有效的人工智能数据安全监管制度具有重

要意义。深入探讨人工智能在数据处理过程中涉及的多种风险，并以欧盟人工智能数据安全监管制度为

研究对象，可以总结出三个明显的特点，即公开透明的监管原则、硬性规定与软性约束相结合的监管模式，

以及风险分级与监管沙盒协同治理的监管措施。通过深入分析这些特色，结合我国的实际情况，可以得

出三个重要启示，即建立健全相关制度确保公开透明、构建一体化的监管体系规范发展和试点开展风险

规制路径提高治理效能。

【关键词】人工智能；数据安全；数据监管制度；人工智能法案

在人工智能引领教育、医疗、行政等多清晰、公开地告知用户如何使用已收集的个人数据，

领域发展的同时，与之相关的数据处确保用户了解自己的权利并能行使该权利；二是规

理潜藏的风险愈发凸显。为了有效应对这些挑战，定确保数据主体有权访问、更正或删除个人数据，

建立一个强有力的数据安全监管制度，至关重要。并对数据处理过程提出异议或投诉。

欧盟不仅在人工智能数据安全制度方面积累了丰富AIAct在借鉴GDPR的基础上进一步强调公开

的实践经验，而且拥有相对成熟的监管模式，为他透明原则，着重强调用户知情权和个人信息保护。

国人工智能数据治理提供了经验借鉴。一是在用户知情权方面，AIAct要求确保用户了解

其与人工智能系统互动或提供服务的相关信息，实

一、欧盟人工智能数据安全监管制现用户侧的算法透明。高风险人工智能系统提供者

度的特点和授权代表需向公众履行透明度义务，不仅要在欧

盟数据库登记服务提供者的基本信息，还要详细描

在人工智能领域，欧盟秉持公开透明的原则，述高风险人工智能系统的预期目的，让所有公众都

在《通用数据保护条例》（GDPR）之后，又颁布了《人可随时访问数据库的信息。二是规定严重安全事故

工智能法案》（AIAct），强调用户知情权和个人报告义务。为了更及时有效地应对人工智能系统在

信息保护。在监管模式上，欧盟采用了硬性规定和应用过程中可能出现的安全风险，AIAct规定高风

软性约束相结合的方式，构建了全面的监管框架，险人工智能系统提供者有义务报告严重安全事故。

确保个人数据安全和促进负责任的人工智能研究与（二）监管模式：硬性规定与软性约束呼应

创新。在监管措施上，欧盟引入了风险分级和监管欧盟的人工智能治理立法构建了整体的监管框

沙盒协同的策略，通过平衡创新推动和风险管控的架，兼顾了硬性法规和软性约束，目的是确保个人

关系，促进人工智能技术的可持续发展。数据安全，并促进负责任的人工智能研究和创新。

（一）监管原则：公开透明欧盟通过两个主要法规对数据安全和算法问题

欧盟的人工智能数据安全监管秉持公开透明原做出了硬性规定。首先，2018年生效的GDPR奠

则，要求信息处理者全面披露个人信息处理活动的定了欧盟的数据治理框架