G_T 42888-2023信息安全技术 机器学习算法安全评估规范.pptx

信息安全技术机器学习算法安全评估规范Informationsecuritytechnology—Assessmentspecificationforsecurityofmachinelearningalgorithms2023-08-06发布2024-03-01实施GB/T42888—2023目次前言…………………Ⅲ1范围………………12规范性引用文件………………l3术语和定义……………………14概述……………………………24.1安全原则…………………24.2安全要求分级……………25机器学习算法技术安全要求和评估方法……………………25.1安全要求……………………25.2评估方法…………………56机器学习算法服务安全要求和评估方法……………………96.1安全要求……………………96.2评估方法……………………97机器学习算法安全评估流程…………………117.1流程要求……………………117.2评估准备……………………117.3评估方案……………………117.4评估执行……………………127.5评估结论……………………127.6评估报告……………………12附录A(规范性)算法推荐服务安全要求……………………14附录B(规范性)算法推荐服务评估方法……………………21参考文献…………………………29IGB/T42888—2023信息安全技术机器学习算法安全评估规范1范围本文件规定了机器学习算法技术和服务的安全要求和评估方法，以及机器学习算法安全评估流程。本文件适用于指导机器学习算法提供者保障机器学习算法生存周期安全以及开展机器学习算法安全评估，也可为监管评估提供参考。2规范性引用文件本文件没有规范性引用文件。3术语和定义下列术语和定义适用于本文件。3.1机器学习算法machinelearningalgorithm功能单元通过学习新知识技能或整理已有知识技能以改进其性能的算法。3.2机器学习算法提供者machinelearningalgorithmprovider利用机器学习算法实现特定功能的组织。注：本文件中简称算法提供者，包括算法技术提供者和算法服务提供者。算法技术提供者是指算法技术的开发和提供方，算法服务提供者是指使用应用算法技术的服务提供方。3.3算法推荐服务algorithmicrecommendationservice互联网信息服务算法推荐internetinformationserviceofalgorithmicrecommendation应用算法推荐技术提供信息的服务。注1:应用算法推荐技术是指利用机器学习算法实现生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术，向用户提供信息的活动。注2:本文件将生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法统称为五类算法。3.4算法生存周期algorithmlifecycle机器学习算法从设计到退役的演进过程。注1:算法生存周期包括设计开发、验证确认、部署运行、维护升级、退役下线。注2:一般算法服务处于部署运行阶段。1GB/T