T_CFEII 0019-2024 人工智能融合应用安全可信管理指南.docxVIP

ICS35.240CCSL77

团体标准

T/CFEII0019—2024

人工智能融合应用安全可信管理指南

Guidelinesonsecurityandtrustworthymanagementofartificialintelligenceintegratedapplications

2024-07–22发布

2024-07–22实施

中国电子信息行业联合会发布

I

T/CFEII0019-2024

目次

前言 II

引言 III

1范围 1

2规范性引用文件 1

3术语和定义 1

4总则 3

4.1指导思想 3

4.2管理原则 3

5实践指南 4

5.1组织制度 4

5.2数据管理 6

5.3模型开发 7

5.4性能质量 8

5.5防御机制 9

5.6部署运行 10

II

T/CFEII0019-2024

前言

本标准按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草。

本标准由中国电子信息行业联合会提出并归口。

请注意本标准的某些内容可能涉及专利，本标准的发布机构不承担识别专利的责任。

本标准起草单位：国家工业信息安全发展研究中心、西安交通大学、清华大学公共管理学院、北京格灵深瞳信息技术股份有限公司、北京工业大学、北京北信源软件股份有限公司、北京奇虎科技有限公司、商汤集团有限公司、蚂蚁科技集团股份有限公司、北京百度网讯科技有限公司、北京昇腾人工智能生态创新中心、北京晴数智慧科技有限公司、北京神州绿盟科技有限公司、广州广电信息安全科技有限公司、山石网科通信技术股份有限公司。

本标准主要起草人：张瑶、王淼、邱惠君、李卫、刘永东、张若丹、张振乾、李天舒、邱颖昭、沈心然、沈超、赵静、陈天博、胡俊、高曦、邹权臣、胡正坤、林冠辰、郭建领、李天哲、张晴晴、顾杜娟、梁添才、吴疆。

T/CFEII0019-2024

III

引言

人工智能作为数字化转型的重要赋能技术之一，正在与金融、医疗、工业、交通等领域融合发展。近年来，人工智能应用范围加速拓展，行业渗透率迅速提升。与此同时，人工智能存在算法、数据、攻防、应用、管理等方面的风险，已暴露出信息泄露、数据滥用、偏见歧视、实施诈骗等安全风险，引发了社会各界对人工智能安全问题的广泛关注。

本项目在充分研究分析国内外人工智能安全风险治理原则、政策、标准等文件的基础上，明确人工智能融合应用安全治理的原则和目标，提出能够推动相关治理原则落地的治理措施和实践指南，旨在推动人工智能健康有序发展。

本标准旨在为各类主体提供人工智能安全可信管理指引，《人工智能融合应用安全可信度评估规范（系统版）》和《人工智能融合应用安全可信度评估规范（组织版）》将分别提供面向人工智能系统和面向人工智能开发、应用单位的安全可信度评估框架、方法与内容，三项标准共同形成人工智能融合应用安全可信系列标准。

对标准中的具体事项，法律法规另有规定的，需遵照其规定执行。

T/CFEII0019-2024

1

人工智能融合应用安全可信管理指南

1范围

本文件提出了人工智能融合应用安全可信管理的指导思想和治理原则，从组织制度、数据管理、模型开发、性能质量、防御机制、部署运行六个维度给出了人工智能安全可信管理的实践指南。

本文件适用于各类主体开展的人工智能设计、开发、部署、使用、维护等过程中的安全治理。

2规范性引用文件

本文件没有规范性引用文件。

3术语和定义

下列术语和定义适用于本文件。

3.1

人工智能artificialintelligence

学科人工智能系统相关机制和应用的研究与开发。

[来源：GB/T41867-2022,3.1.2]3.2

人工智能系统artificialintelligencesystem

针对人类定义的给定目标，产生诸如内容、预测、推荐或决策等输出的一类工程系统。3.3

人工智能风险artificialintelligencerisk

人工智能的不确定性对任务和目标的影响。

[来源：ISO/IEC22989:2022,3.5.11，有修改]3.4

算法algorithm

人工智能用于求解分类、推理、预测等问题，明确界定的有限且有序的规则集合。[来源：T/CESA1193-2022,3.1.8，有修改]

3.5

模型model

人工智能针对特定问题或任务，基于输入数据，生成推理或预测的计算结构。

注：