《人工智能 可信赖规范 第3部分：机器学习框架》.pdfVIP

人工智能可信赖规范第3部分：机器学习框架

1范围

本文件规定了机器学习框架涉及的各类可信赖技术要素及其对应的技术要求和测试方法。

本文件适用于机器学习框架及其扩展包的可信赖技术特性的规划、设计、实现和测试，也为利益相

关方使用机器学习框架增强人工智能系统可信赖程度提供指引。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，

仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本

文件。

GB/T35273-2020信息安全技术个人信息安全规范

T/CESABBBBB信息技术人工智能可信赖规范第1部分：通则

3术语和定义

GB/T42018-2022，41867-2022和T/CESABBBBB界定的以及下列术语和定义适用于本文件。

3.1

联邦机器学习federatedmachinelearning

联邦学习federatedlearning

一种框架或系统能在不泄露参与方所拥有原始数据和隐私数据的同时，使多个参与方建立和使用

机器学习模型且获得好的性能。

注1：该架构定义了一种本地云端结合的模型训练及应用模式。

注2：横向联邦学习的特征是参与者拥有数据特征类型相同，拥有不同的数据主体，不同的参与方扩展了样本量。

注3：纵向联邦学习特征是参与者拥有相同的数据主体，其数据特征不同，不同的参与方扩展了样本的特性类。

[来源：GB/T41867-2022：3.2.15，有修改]

3.2机器学习框架machinelearningframework

一种利用预先构建和优化好的组件集合定义模型，实现对机器学习算法封装、数据调用处理及计算

资源使用的软件库。

注1：深度学习框架是机器学习框架的一种。

注2：机器学习框架一般会提供一些用于机器学习模型的预定义构建块或计算单元，如：对输入Tensor计算一维卷积。

3.3

服务水平协议servicelevelagreement

服务提供者和服务使用者（用户）关于服务范围、内容和目标的协议。

1

3.4

对抗样本adversarialsample

通过构造输入达到干扰机器学习系统的输出结果的具有攻击性的样本。

注：可以通过对输入数据添加细微的干扰形成对抗样本，干扰模型推理导致以高置信度给出一个错误的输出。

3.5

个人敏感信息personalsensitiveinformation

一旦泄露、非法提供或滥用可会危害人身和财产安全，可能导致个人名誉、身心健康受到损害或歧

视性待遇等的个人信息。

注1：敏感信息包括个人财产信息（存款、信贷、消费记录）、个人健康生理信息（体检信息、医疗记录）、个人身

份信息（身份证、社保卡、驾驶证）等。

注2：关于个人敏感信息的判定方法和类型参见GB/T35273-2020的附录B。

注3：个人信息控制者通过个人信息或其他信息加工处理后形成的信息，如一旦泄露、非法提供或滥用可能危害人身

和财产安全，极易导致个人名誉、身心健康受到损害或歧视性待遇等的，属于个人敏感信息。

[来源：GB/T35273-2020：3.2]

3.6

组件component

机器学习框架中具有独立结构的实体，与框架其他组件相互作用，从而在其最低级别对机器学习框

架的特性做出贡献。

[来源：ISO/IEC25010：2011，4.3.3，有修改]

3.7黑盒blackbox

1.已知系统或组件的输入、输出和基本功能要求，但系统及组件的内部机理及实现方式未知或不相

关；2.关于一种方法，已知输入、输出和一般功能，但其内容或实现未知或不相关。

[来源：ISO/IEC/IEEE24765：2017(en)，3.390]

3.8

白盒whitebox

1.系统或组件的内部机理及实现方式已知；2.将一种方法当做一个系统或组件，具备内部机理及实

现方式已知的能力。

[来源：ISO/IEC/IEEE24765：2017(en)，3.1744]

4缩略语

AI