《人工智能系统生命周期治理指南》标准文本.pdfVIP

信息技术人工智能系统生命周期治理指南

1范围

本文件提出了人工智能系统生命周期治理总则、治理框架和治理流程，提供了人工智能系统管理者

对人工智能系统各生命周期治理的建议，包括初始阶段、设计开发、测试验证、部署、运行监测、重新

评估、退出使用等全生命周期的治理措施。

本文件适用于：

a)指导本市企业内部人工智能系统生命周期治理的实施和自我评价。

b)指导本市政府监管机构、第三方评估机构对企业的人工智能治理能力的评价。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，

仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本

文件。

GB/T41867-2022信息技术人工智能术语

GB/T22239-2019信息安全技术网络安全等级保护基本要求

GB/T35273-2020信息安全技术个人信息安全规范

GB/T25000.24-2017系统与软件工程系统与软件质量要求和评价（SQuaRE）第24部分：数据质量

测量

TC260-003生成式人工智能服务安全基本要求

3术语和定义

GB/T41867-2022界定的以及下列术语和定义适用于本文件。

3.1

人工智能治理AIGovernance

对人工智能研究、开发、生产和应用中出现的公共安全、道德伦理等问题进行协调、处理、监管和

规范的过程。

3.2

人工智能系统生命周期AISystemLifeCycle

人工智能系统从初始阶段到退出使用的演变过程。

3.3

决策治理DecisionGovernance

对人工智能系统作出的决策、人机协作生成的决策进行治理，确保其满足功能、性能要求。

3.4

数据治理DataGovernance

对数据来源、数据质量、和数据安全进行治理。

1

3.5

伦理治理EthicGovernance

对人工智能系统的价值观、公平性、隐私性、透明度等进行治理，确保其符合人类的道德规范。

3.6

合规治理ComplianceGovernance

对人工智能系统输出内容的法律法规符合性进行治理，确保其符合相关法律法规。

3.7

风险治理RiskGovernance

对人工智能系统的风险进行治理，包括风险的识别、分析和应对。

4人工智能系统生命周期治理总则

4.1概述

人工智能系统生命周期治理源于组织的外部监管、内部管理、市场及利益相关者的需求，主要包括：

a)法律法规、行业监管和内部管控等对人工智能系统的安全、合规的要求；

b)人工智能系统生命周期过程中治理体系建设的要求；

c)市场及利益相关者对人工智能系统的要求。

4.2目标

人工智能系统生命周期治理的目标是保障人工智能系统的安全、合规，建立人工智能系统的治理体

系，满足市场及利益相关者的期望。主要包括：

a)安全：确保人工智能系统的数据、模型、系统、流程、物理和网络机制及服务得到内部或外

部保护，以防止意外和未经授权的访问、使用、更改或破坏；确保人工智能系统不会对利益

相关者的生命、健康、财产、数据以及物理环境造成不良后果。

b)合规：确保人工智能系统符合法律法规和行业监管的规定，遵循社会普适的道德规范和伦理。

c)治理体系建设：构建人工智能系统决策治理、数据治理、伦理治理、合规治理、风险治理体

系。

4.3任务

组织宜通过评估、指导和监督的方法，按照统筹和规划、构建和运行、监控和评价以及改进和优化

的过程，实施人工智能系统生命周期治理的任务，主要包括：

a)评估人工智能系统生命周期治理的现状及需求、系统内数据管理和系统运行情况；

b)指导人工智能系统生命周期治理体系的构建和人工智能系统生命周期治理的实施；

c)制定合理的评价体系与审计规范，监督人工智能系统生命周期治理内控、合规和绩效。

5人工智能系统生命周期治理框架

人工智能系统生命周期治理框架包含人工智能系统在初始阶段、设计开发、测试验