CESA-2021-2-006《信息技术 人工智能 风险评估模型》团体标准（征求意见稿）编制说明.pdf

中国电子工业标准化技术协会

团体标准《信息技术人工智能风险评估模型》

（征求意见稿）编制说明

一、工作简况

1、项目背景

近年来，人工智能产品已经在智慧医疗、智慧交通、智慧司法、智能教育等

方面取得了较大的突破。然而，人工智能产品性能和设计特点都不一样，产品质

量参差不齐，人工智能产品在推动人类社会进步的同时，也可能引发一系列风险。

这些风险中包括了人工智能产品开发过程中涉及的技术风险、应用风险、管理风

险，不仅对使用者安全、自然环境造成的物理影响，也对使用者宗教信仰、文化、

情感造成的精神影响。此外，开发过程涉及的人员机制和组织流程也会对人工智

能产品落地具有直接影响。而良好的风险评估有助于降低产品失败的几率、避免

可能的资金与时间损失、相对提高企业本身的附加价值，更有利于人工智能产品

的广泛应用，并提高社会及公众对人工智能产品使用的信心。

2、任务来源

为了规范人工智能风险评估原则和评估流程，中国电子标准化技术研究院联

合中国科学院软件研究所、中国医学科学院生物医学工程研究所、北京旷视科技

有限公司、中科院软件研究所南京软件技术研究院、浪潮软件科技有限公司、威

麟信息技术开发（上海）有限公司等单位联合发起了《信息技术人工智能风险

评估模型》标准，并邀请华为技术有限公司、联仁健康医疗大数据科技股份有限

公司、山东省计算中心、深圳市人马互动科技有限公司、上海计算机软件技术开

发中心、中国工程物理研究院计算机应用研究所、上海依图网络科技有限公司等

企业、研究机构等共同参与起草。

3、标准起草单位

本标准起草单位：中国电子标准化技术研究院联合中国科学院软件研究所、

中国医学科学院生物医学工程研究所、北京旷视科技有限公司、中科院软件研究

所南京软件技术研究院、浪潮软件科技有限公司、威麟信息技术开发（上海）有

限公司、华为技术有限公司、联仁健康医疗大数据科技股份有限公司、山东省计

中国电子工业标准化技术协会

算中心、深圳市人马互动科技有限公司、上海计算机软件技术开发中心、中国工

程物理研究院计算机应用研究所、上海依图网络科技有限公司。

本标准主要起草人：孟令中、薛云志、汪小娟、曹晓琦、梅敬青、蒲江波、

翁家良、赵春昊、高永超、黄先芝、陈敏刚、李进峰、漆莲芝、张艺伯、何平、

马骋昊

4，主要工作过程

在标准计划下达之前，《信息技术人工智能风险评估模型》编制组于2021

年3月举行启动《信息技术人工智能风险评估模型》团体标准草案编制，确定

了风险评估模型草案。

2021年3月编制组成立，并初步分成3个小组；

2021年4月，小组组长会议，确定总体思路、框架；

2021年5月，确定技术、应用、管理各个方向内容、含义、范围等，并在中

国电子工业标准化技术协会完成团体标准立项；

2021年6月，各小组开展编制工作；

2021年7月，初稿完成，提交中电标协秘书处，启动征求意见。

二、标准编制原则和确定主要内容的论据及解决的主要问题

1、编制原则

《信息技术人工智能风险评估模型》标准的编制原则如下：

a)全面性原则：本标准中在编制中充分考虑了到标准的全面性，保证能够覆

盖到多个风险要素、风险域和风险子域，确保模型的完备性。

b)实用性原则：本标准充分考虑了我国人工智能风险评估的发展现状和实际

需求，并坚持吸收现有的先进技术和正在进行人工智能相关研究的企业、高校、

科研院所等的先进经验，保证风险评估模型的实用性。本标准规定的功能要求清

晰、易操作、可试验，可以指导各行业人工智能实践及机器学习相关单位对人工

智能产品开展风险评估工作。

c)可验证性原则：标准制定是为了使用，只有经过各参编单位实践的验证，

才能体现风险评估模型的意义。

中国电子工业标准化技术协会

d)国际性原则：本标准充分考虑到国内外正被广泛讨论的可信赖、风险管理

等研究项目和标准，采用国际通用的术语和文件格式等进行定义，使得该风险评

估模型能够充分满足研究人员的需求。

本标准规定了人工智能领域产品的风险评估模型，包括风险能力等级、风险

要素、风险能力要求，给出了判定人工智能产品的风险评估等级的方法。

本标准适用于指导人工智能产品开发方、用户方以及第三方等相关组织对人

工智能产品风险开展评估工作。

2、确定主要内容的论据

《信息技术人工智能风险评估模