人工智能系统生命周期治理指南-征求意见稿.docx

ICS点击此处添加ICS号CCS点击此处添加CCS号

31

上海市地方标准

DB31/TXXXX—XXXX

信息技术人工智能系统生命周期治理指南

InformationTechnology-guidelinesforlifecyclegovernanceofartificialintelligencesystem

（征求意见稿）

在提交反馈意见时，请将您知道的相关专利连同支持性文件一并附上。

XXXX-XX-XX发布XXXX-XX-XX实施

发布

I

DB31/TXXXX—XXXX

目次

前言 II

引言 III

1范围 1

2规范性引用文件 1

3术语和定义 1

4人工智能系统生命周期治理总则 2

4.1概述 2

4.2目标 2

4.3任务 2

5人工智能系统生命周期治理框架 2

6人工智能系统生命周期治理流程 3

6.1概述 3

6.2统筹和规划 4

6.3构建和运行 4

6.4监控和评价 4

6.5改进和优化 5

6.6多主体协同敏捷治理 5

7人工智能系统生命周期治理措施 5

7.1生命周期通用的治理措施 5

7.2初始阶段的治理措施 7

7.3设计开发阶段的治理措施 8

7.4测试验证阶段的治理措施 8

7.5部署阶段的治理措施 10

7.6运行监测阶段的治理措施 11

7.7重新评估阶段的治理措施 12

7.8退出使用阶段的治理措施 13

参考文献 15

附录A（资料性）人工智能系统生命周期治理监督检查表 16

II

DB31/TXXXX—XXXX

前言

本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定

起草。

本文件由上海市经济和信息化委员会提出并组织实施。本文件由上海市人工智能标准化技术委员会归口。

本文件起草单位：上海计算机软件技术开发中心、上海市人工智能行业协会、上海依图科技有限公司、上海商汤智能科技有限公司、公安部第三研究所、上海人工智能实验室、上海交通大学、上海人工智能研究院有限公司、华东师范大学等。

本文件主要起草人：

III

DB31/TXXXX—XXXX

引言

当前，人工智能已成为新一轮科技革命和产业变革的重要驱动力量，上海已将人工智能定位为重点培育的三大先导产业之一。目前，全市正在加快建设具有全球影响力的人工智能高地，全行业呈现技术越做越精、场景日益做深、价值红利不断释放的趋势。与此同时，人们在享受人工智能技术进步带来的红利和价值的同时，也面临着其引发的伦理和技术风险，因此迫切需要技术性指南来指导人工智能系统生命周期的治理，确保人工智能产业健康发展和对社会的正面影响。2017年7月，国务院印发的《新一代人工智能发展规划》，明确提出在大力发展人工智能的同时，必须高度重视安全风险挑战，确保人工智能安全、可靠、可控发展。2019年6月，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出公平公正、安全可控、开放协作、敏捷治理等治理原则。 目前人工智能企业、社会、政府对人工智能系统治理的重要性和必要性已达成基本共识。比如ISO/IECSC42发布了ISO/IECTR24368:2022《Informationtechnology—Artificialintelligence—Overviewofethicalandsocietalconcerns》（信息技术人工智能伦理和社会关注概述）与ISO/IEC38507:2022《Informationtechnology-GovernanceofIT-Governanceimplicationsoftheuseofartificialintelligencebyorganizations》（信息技术IT治理组织使用人工智能的治理影响）。然而，上述人工智能治理的标准侧重于建立人工智能治理的基本原则，而非形成技术指导文件。总体上，目前国际与国内缺乏标准化、可应用落地的人工智能系统生命周期治理的技术性