人工智能安全新进展标准化研究.pdfVIP

编辑：胡欣 标准化研究 E-mail: huxin@ Standardization Research 人工智能安全新进展标准化研究 Research on Standardization of New Advance in Artificial Intelligence Security 中国电子技术标准化研究院  张世天  范  博  郝春亮 摘  要 围绕人工智能技术快速发展及其应用日益广泛所引发的安全问题，从人工智能技术和应用两方面分析 当前人工智能的安全风险，研究国内外主要标准化组织的人工智能安全标准化工作进展、重点标准项目等，提 出后续人工智能安全标准化工作的建议。 关键词 人工智能  人工智能安全  标准化 Abstract: the rapid development of artificial intelligence technology and its increasingly widespread application have aroused widespread concerns about its security. This paper analyzes the current security risks of artificial intelligence from both artificial intelligence technologies and applications, studies the progress of artificial intelligence security standardization work and key standard projects of major domestic and foreign standardization organizations, and puts forward suggestions for follow-up artificial intelligence security standardization work. Keywords: artificial intelligence; artificial intelligence security; standardization 1  引言 安全作为保障国家人工智能发展战略安全实施不可 或缺的一环，如果未妥善利用人工智能技术或对其 人工智能具有获取、处理、创造和应用知识的 应用进行风险防范，可能阻碍人工智能在生产力提 能力，可为人类定义的目标生成内容、预测、推荐 升、社会发展、数字经济中的驱动作用。 或决策等 [1-2] 。经过几十年的技术迭代和进步，人工 智能近年来进入了蓬勃发展期，成为新一轮科技革 2 人工智能技术安全 命和产业变革的重要驱动力量。人工智能应用也逐 渐深入到人类生产和生活的方方面面，在工业智能 2.1 基础设施安全 制造、智慧城市、智能交通、智慧金融、智慧医疗 人工智能基础设施是指人工智能技术和应用依 [3-4] 等领域发挥着重要作用 。 赖的软硬件，如软件框架组件、计算设施、智能传 然而，由于人工智能技术原理的复杂性、模糊 感器等。其中，软件框架组件是算法模型工程实现 性和不可解释性，已暴露多项安全问题 [5-6] 。同时随 的基础，为人工智能应用开发提供集成软件包和算 着人工智能应用的普及，安全威胁的范围也不断增