国外人工智能数据安全规制及对我国的启示.pdfVIP

「信息通信技术与政策

国外人工智能数据安全规制及对我国的启示

关伟东

（中国信息通信研究院安全研究所，北京100191）

摘要：伴随人工智能技术的广泛应用和持续发展，其所引发的数据安全风险日益加重。通过总结人工智

能应用过程中面临的数据泄露、数据过度收集、模型算法透明度不足以及数据易遭受攻击等安全风险，梳

理和分析美国、英国、欧盟和新加坡等国家和地区在数据安全规制活动中的实践经验，提出加强顶层设计、

强化实践指引和加快技术创新等全方位、多元化的发展路径，进一步提升人工智能数据安全防护能力。

关键词：人工智能；数据安全；规制；实践经验；发展路径

中图分类号：TP309.2文献标志码：A

引用格式：关伟东：国外人工智能数据安全规制及对我国的启示[J]．信息通信技术与政策，2024,50

(8):68-72.

D0I:10.12267/j.issn.2096-5931.2024.08.010

0引言1人工智能面临的数据安全风险

人工智能指的是计算代理的开发,这些代理可以1.1#

技术脆弱性容易导致数据泄露或被盗用

执行与人类智能相关的任务，包括语音识别、视觉感知人工智能技术自身的脆弱性和复杂性等特点容易

和一般问题解决，其发展高度依赖数据的流通和使造成数据泄露或被盗用。一方面，深度学习、大模型等

用，例如在数据收集、数据准备、模型开发和部署等重人工智能技术本身仍处在发展阶段，容易出现重要结

要环节均需要利用数据进行训练、测试以及评估等。构丢失等问题，引发数据泄露。例如,2023年12月，

伴随自然语言处理、搜索引擎、智能生成应用等人工智DeepMind的研究人员联合美国华盛顿大学、康奈尔大

能技术和产品在日常生活中的深度融合与广泛应用，学等高校研究人员利用分歧攻击等方法，发现了

数据使用规模增长，流动性增强，暴露面增多，由此带ChatGPT的数据泄露漏洞，利用该漏洞可以提取出大

来的数据泄露、数据被盗用或数据投毒等安全风险值约1GB的训练数据。另一方面，人工智能在开发和应

得进一步关注。目前，美国、英国、欧盟、新加坡等国家用过程中需要大量接入应用程序接口（Application

和地区已通过发布国家战略、行政命令、规范指南和研ProgrammingInterface,API），API自身的漏洞和安全隐

究报告等手段,对人工智能技术和产品在实际应用中患以及不同API之间不同的数据安全防护能力和要求

涉及的数据安全问题进行规制，以控制和减轻人工智进一步提升了数据在收集、流动和处理过程中的安全

能技术的应用所带来的数据安全风险。防护要求，也从侧面加剧了数据泄露和被盗用的风险。

本文旨在探讨人工智能面临的数据安全风险，梳1.2人工智能技术实际应用过程中容易过度收集

理和分析国外人工智能数据安全规制现状并有针对性数据

地提出我国人工智能的发展路径。人工智能技术从本质上是一种通过数据驱动的方

·68.

专题：网络安全2024年第8期

法,因此允许人工智能系统在日常应用场景中访问、收2国外人工智能数据安全规制现状

集和处理个人信息等数据是合理且不可避免的。然

2.1

而，目前智能音箱、智能摄像头、智能门锁、智能网联汽美国：多方参与，协同推进人工智能数据安全

车等智能