CESA2023025人工智能可信赖规范第3部分机器学习框架团体标准编制说明.pdfVIP

中国电子工业标准化技术协会

团体标准《人工智能可信赖规范第3部分：

机器学习框架》（征求意见稿）编制说明

一、工作简况

1、任务来源

根据中国电子工业标准化技术协会2023年第二批团体标准制修订通知（中电

标通〔2023〕007号），中国电子技术标准化研究院负责《人工智能可信赖规范

第3部分：机器学习框架》（团标计划号CESA-2023-025）的标准研制工作。

2、标准编制的主要成员单位

本项目由中国电子技术标准化研究院、华为技术有限公司、中国科学院软件

研究所、上海商汤智能科技有限公司、北京百度网讯科技有限公司、海信集团控

股股份有限公司等等共同编制。

主要起草人包括：。

3、主要工作过程

1）2022年12月-2023年2月，调研机器学习框架安全及伦理实践及相关工具、

平台，形成研究报告；

2）2023年2月，成立编制组，撰写立项草案；

3）2023年2月24日，通过立项审查会；

4）2023年3月7日，中国电子工业标准化技术协下达《人工智能可信赖规

范第3部分：机器学习框架》立项计划；

5）2023年6月21日，召开编制组第一次研讨会，40余家单位近50位专家线

上讨论；

6）2023年8-2024年4月，编制组多次召开工作组会议，迭代形成征求意见

稿。

7）2024年4月25日，可信赖工作组会议在杭州市召开，对《人工智能可信

赖规范第3部分：机器学习框架》展开详细讨论，会后进行标准迭代；

1

中国电子工业标准化技术协会

8）2024年7月2日，编制组在全国信标委人工智能分委会可信赖工作组会议

上对标准进行讨论，根据专家建议进一步完善标准征求意见稿。

二、标准编制原则和确定主要内容的论据及解决的主要问题

1、编制原则

本标准的编制原则是：

a）通用性

按照本标准实现的机器学习框架，便于用户使用，有利于主管部门的测评、

认证和管理。

b）实用性

根据我国国情、实际应用情况和国家有关政策编制本标准，使其在指导机器

学习框架可信赖方面具有很强的实用性。

c）符合性

符合国家有关法律法规和已有标准规范的相关要求。

2、确定主要内容的依据

标准制定的依据为：

a）标准格式按照GB/T1.1—2020标准要求编写。

b）本标准制定参考以下标准：

GB/T35273—2020信息安全技术个人信息安全规范

GB/T40660—2021信息安全技术生物特征识别信息保护基本要求

GB/T41867—2022信息技术人工智能术语

3、解决的主要问题

本标准基于《人工智能可信赖第1部分：通则》中对人工智能可信赖的通

用要求，结合机器学习框架在人工智能系统架构中位置，针对机器学习框架自身

算法库、构建和训练、推理和部署等模块提出可信赖技术要素，能够解决缺乏规

范化可信赖特性技术要求、缺乏标准化可信赖保障支撑能力评估指标及测试流程

的问题，支撑人工智能系统对计算资源和算法模型的可信赖连接。

三、主要试验[或验证]情况分析

机器学习框架的可信赖要求在国内外政产学研用等单位内受到重视，相关研

究同步推进，已逐步形成机器学习模型的可信赖要求和评价。本标准牵头单位同

2

中国电子工业标准化技术协会

步关注国内外机器学习框架领域可信赖研究，并对照现有标准文本，基于市面主

流机器学习框架做了分析和验证，标准条款合理且有效。

四、知识产权情况说明

无。

五、产业化情况、推广应用论证和预期达到的经济效果

本标准规定了机器学习框架涉及的各类可信赖技术要素及其对应的技术要

求和测试方法。适用于机器学习框架及其扩展包的可信赖技术特性的规划、设计、

实现和测试，也为利益相关方使用机器学习框架增强人工智能系统可信赖程度提

供指引。

六、转化国际标准和国外先进标准情况

无。

七、与现行相关法律、法规、规章及相关标准的协调性

ISO/IECJTC1从术语、概念、定义