移动智能终端可信人工智能安全指南.pdfVIP

移动智能终端可信人工智能安全指南

1范围

本文件给出了移动智能终端中实现可信人工智能（正文中简称AI）系统的安全指导，适用于各种

制式的移动智能终端中实现的AI系统。

本文件为移动智能终端AI系统的研究开发者、设计制造者、部署应用者和用户提供安全指导，以

判断该AI系统是否满足可信AI的基本安全能力。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文

件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适

用于本文件。

GB/T35273信息安全技术个人信息安全规范

GB/T5271.28-2001信息技术词汇第28部分：人工智能基本概念与专家系统

YD/T2407-2021移动智能终端安全能力技术要求

3术语、定义和缩略语

3.1术语和定义

下列术语和定义适用于本文件。

3.1.1

移动智能终端mobilesmartterminal

能够接入移动通信网，具有能够提供应用软件开发接口的操作系统，并具有安装、加载和运行应

用软件能力的移动终端。

[来源：YD/T2407-2021，3.1.1]

3.1.2

人工智能artificialintelligence

表现出于人类智能（如推理和学习）相关的各种功能的功能单元和能力。

[来源：GB/T5271.28-2001，28.01.02]

3.1.3

人工智能系统artificialintelligencesystem

人工智能系统指在计算机系统中实现人工智能能力的软件、硬件加速器、算法模型与数据的集合。

1

3.2缩略语

下列缩略语适用于本文件。

AI：人工智能（ArtificialIntelligence）

BI：商业智能（BusinessIntelligence）

CV：计算机视觉（ComputerVision）

DSMM：数据安全能力成熟度模型（DataSecurityCapabilityMaturityModel）

NLP：自然语言处理（NaturalLanguageProcessing）

4可信人工智能概述

4.1基本原则

4.1.1概述

可信计算是计算机领域的一个概念，主要强调的是计算机系统和其处理过程的可预测性、可验证

性。AI系统中可信AI的概念与可信计算相似，主要强调的是AI系统安全有序发展的基本要求。目前国

[1]

际上对于可信AI的基本概念定义主要包括七点，分别为人类自主权，技术鲁棒性与安全性，隐私与

数据治理，透明度，多样性、非歧视性与公正性，社会与环境健康，问责制。

4.1.2人类自主权

可信AI可保证人类的基本权利，且有效评估AI系统是否会危害人类的基本权利；可信AI的用户拥

有对AI系统的自主决定权，包括拥有可以和AI系统交互的工具、学习与理解使用AI系统的相关技能、

AI系统支持用户做出对自己有利的决定等；可信AI受到人类的监督，以保证AI系统不会影响人类的自

主权或造成其他不利影响。

4.1.3技术鲁棒性与安全性

可信AI具有抵御恶意攻击的能力，包括对数据集的攻击（数据投毒）、对模型的攻击（模型窃取）

或对底层基础架构的攻击等；可信AI在出现问题之后支持回退功能，在系统出现故障时，具备支持回

退功能的有效保护措施；可信AI具有行为准确性，即做出正确的判定，或在无法做出正确判定时，AI

系统给出发生该类情况的可能性等；可信AI具有行为可靠性，即AI系统给出的结论是可靠且可重现的。

4.1.4隐私保护与数据治理

可信AI保证个人信息与数据在整个系统生命周期中的安全性，包括用户向系统提供的原始数据、

系统使用用户原始数据生成的数据等；可信AI可保证数据的可靠性与完整性，防止使用带有偏见的数

据、不准确数据、错误数据与恶意数据等；可信AI设置对数据的访问控制权限，包含环境设定、用户

权限设定等。

4.1.5透明度

可信AI具有可追溯性，即AI系统做出决定时使用的流程与数据集被有效记录，其中包括收集的数

据、标记的数据与