2019年人工智能数据安全白皮书.pdfVIP

人工智能数据安全 白皮书 中国信息通信研究院 安全研究所 2019年8月 前 言 人工智能作为引领新一轮科技革命和产业变革的战略性技术，已 成为世界主要国家谋求新一轮国家科技竞争主导权的关键领域。随着 政府人工智能战略布局的落地实施，全球人工智能发展正进入技术创 新迭代持续加速和融合应用拓展深化的新阶段，深刻改变着国家政治、 经济、社会、国防等领域的运行模式，对人类生产生活带来翻天覆地 的变化。 数据作为驱动本轮人工智能浪潮全面兴起的三大基础要素之一， 数据安全风险已成为影响人工智能安全发展的关键因素。与此同时， 人工智能应用也给数据安全带来严峻挑战,如何应对人工智能场景下 的数据安全风险 日渐成为国际人工智能治理的重要议题。部分国家已 率先探索人工智能数据安全风险的前瞻研究和主动预防，并积极推动 人工智能在数据安全领域应用，力求实现人工智能与数据安全的良性 互动发展。 本白皮书从人工智能数据安全的内涵出发，首次提出人工智能数 据安全的体系架构，在系统梳理人工智能数据安全风险和安全应用情 况的基础上，总结了国内外人工智能数据安全治理现状，研究提出了 我国人工智能数据安全治理建议。 目 录 一、人工智能数据安全概述 1 （一）人工智能安全 1 （二）人工智能数据安全内涵2 （三）人工智能数据安全体系架构3 二、人工智能数据安全风险5 （一）人工智能自身面临的数据安全风险5 （二）人工智能应用导致的数据安全风险7 （三）人工智能应用加剧的数据治理挑战 11 三、人工智能数据安全应用 13 （一）人工智能与数据安全治理 13 （二）人工智能在数据安全治理中的应用 15 四、 国内外人工智能数据安全治理动态23 （一）国内外人工智能数据安全战略规划情况24 （二）国内外人工智能数据安全伦理规范情况28 （三）国内外人工智能数据安全法律制定情况30 （四）国内外人工智能数据安全技术发展情况32 （五）国内外人工智能数据安全标准规范情况34 五、人工智能数据安全治理建议36 （一）明晰发展与安全并举的治理思路36 （二）引导社会遵循人工智能伦理规范37 （三）建立人工智能数据安全法律法规37 （四）完善人工智能数据安全监管措施38 （五）健全人工智能数据安全标准体系39 （六）创新人工智能数据安全技术手段39 （七）培养复合人工智能数据安全人才40 人工智能数据安全白皮书（2019 年） 中国信息通信研究院 一、人工智能数据安全概述 （一）人工智能安全 当前，由人工智能引领的新一轮科技革命和产业变革方兴未艾， 正在对经济发展、社会进步、国家治理等方面产生重大而深远的影响。 世界主要国家和全球产业界高度重视并积极布局，人工智能迎来新的 发展浪潮。然而，技术进步往往是一把“双刃剑”，本项目组在《人 工智能安全白皮书（2018 年）》中提出人工智能因其技术的局限性和 应用的广泛性，给网络安全、数据安全、算法安全和信息安全带来风 险，并对国家政治、军事和社会安全带来诸多挑战。与此同时，人工 智能因其突出的数据分析、知识提取、自主学习、智能决策等能力， 可在网络防护、数据管理、信息审查、智能安防、金融风控、舆情监 测等网络信息安全领域和社会公共安全领域有许多创新性应用。为有 效管控人工智能安全风险并积极促进人工智能技术在安全领域应用， 可从法规政策、标准规范、技术手段、安全评估、人才队伍、可控生 态等方面构建人工智能安全管理体系。 图 1 人工智能安全体系架构图 1 人工智能数据安全白皮书（2019 年） 中国信息通信研究院 （二）人工智能数据安全内涵 1、人工智能与数据 人工智能与数据相辅相成、互促发展。