TCFEII 0020-2024 人工智能融合应用安全可信度评估规范（系统版）.docx

ICS35.240

CCSL77

团 体 标 准

T/CFEII0020—2024

人工智能融合应用安全可信度评估规范（系统版）

Assessmentspecificationforsecurityandtrustworthinessofartificialintelligenceintegratedapplications

（Systemedition）

2024-07–22发布 2024-07–22实施

中国电子信息行业联合会?发布

T/CFEII0020-2024

T/CFEII0020-2024

T/CFEII0020-2024

T/CFEII0020-2024

PAGE\*ROMAN

PAGE\*ROMANIII

PAGE\*ROMAN

PAGE\*ROMANIV

目 次

前 言 III

引 言 IV

范围 1

规范性引用文件 1

术语和定义 1

评估框架 2

模型构成 3

评估等级 3

评价方法 4

评估内容 4

数据 4

准确性 4

无偏性 4

代表性 4

可追溯 4

合规性 5

模型 5

解释性 5

鲁棒性 5

公平性 5

可追溯 6

向善性 6

性能 6

精准性 6

可靠性 6

无害性 7

防御 7

风险管理 7

可信环境 7

攻击防范 7

控制机制 7

应急计划 8

沟通 8

规范使用 8

交互反馈 8

责任 9

职责确立 9

人员培训 9

附录A人工智能融合应用安全可信度评估分级方法 10

概述 10

评估指标体系构建 10

构建原则 10

构建步骤 10

加权评分方法 10

权重设置 10

加权评分 10

分级判定参考 11

人工智能融合应用安全可信度一级 11

人工智能融合应用安全可信度二级 11

人工智能融合应用安全可信度三级 11

人工智能融合应用安全可信度四级 11

人工智能融合应用安全可信度五级 12

前 言

本标准按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草。

本标准由中国电子信息行业联合会提出并归口。

请注意本标准的某些内容可能涉及专利，本标准的发布机构不承担识别专利的责任。本标准起草单位：国家工业信息安全发展研究中心、西安交通大学、清华大学公共管理

学院、北京格灵深瞳信息技术股份有限公司、北京工业大学、北京北信源软件股份有限公司、北京奇虎科技有限公司、商汤集团有限公司、蚂蚁科技集团股份有限公司、北京百度网讯科技有限公司、北京昇腾人工智能生态创新中心、北京晴数智慧科技有限公司、北京神州绿盟科技有限公司、北京中科睿鉴科技有限公司、广州广电信息安全科技有限公司、北京中银（深圳）律师事务所。

本标准主要起草人：邱惠君、张瑶、王淼、刘永东、李卫、李天舒、张若丹、沈超、蔺琛皓、赵静、陈天博、胡俊、张建标、高曦、夏林聪、邹权臣、张德岳、胡正坤、林冠辰、郭建领、王瑞平、罗磊、王星凯、陈漫兰、张原、梁添才、潘良。

引 言

人工智能作为数字化转型的重要赋能技术之一，正在与金融、医疗、工业、交通等领域融合发展。近年来，人工智能应用范围加速拓展，行业渗透率迅速提升。与此同时，人工智能存在算法、数据、攻防、应用、管理等方面的风险，已暴露出信息泄露、数据滥用、偏见歧视、实施诈骗等安全风险，引发了社会各界对人工智能安全问题的广泛关注。

本项目在充分研究分析国内外人工智能安全风险治理原则、政策、标准等文件的基础上，面向人工智能系统提出人工智能融合应用安全可信度评估框架、方法和内容，为开展人工智能安全可信度自评估和第三方评估提供依据，也可以为监管部门提供参考。

对标准中的具体事项，法律法规另有规定的，需遵照其规定执行。

T/CFEII0020-2024

T/CFEII0020-2024

T/CFEII0020-2024

T/CFEII0020-2024

PAGE

PAGE13

PAGE

PAGE10

人工智能融合应用安全可信度评估规范（系统版）

范围

本标准规定了评估人工智能系统安全可信度的评估框架与评估内容，并提供了评估规则。本标准适用于指导人工智能系统开发者、使用者、第三方评估机构等对人工智能系统的

安全可信度进行评估。

规范性引用文件

文件没有规范性引用文件。

术语和定义

下列术语和定义适用于本文件。

3.1

人工智能artificialintelligence

学科人工智能系统相关