标准编制说明-人工智能系统生命周期治理指南.pdf

《人工智能系统生命周期治理指南》

编制说明

目前人工智能企业、社会、政府对人工智能系统治理的重

要性和必要性已达成基本共识。然而，当前人工智能治理的标

准侧重于建立人工智能治理的基本原则，而非形成技术指导文

件。总体上，目前国际与国内缺乏标准化、可应用落地的人工

智能系统生命周期治理的技术性指南。因此，制定人工智能系

统生命周期治理指南，形成人工智能系统治理、评估和管控方

法，加强前瞻预防与约束引导，有利于实现安全可信、负责任

的人工智能应用，最大程度地释放人工智能在社会、经济、环

境等各方面的正向价值。

一、任务来源

经上海市市场监管局评审、公示，根据2022年8月26日

发布的《上海市市场监督管理局关于下达2022年度第三批上

海市地方标准制修订项目计划的通知》（沪市监标技〔2022〕

371号），《人工智能系统生命周期治理指南》正式立项。本标

准由上海市经济和信息化委员会提出，上海市人工智能标准化

技术委员会归口，上海计算机软件技术开发中心、上海市人工

智能行业协会、上海依图科技有限公司、上海商汤智能科技有

限公司、公安部第三研究所、上海人工智能实验室、上海交通

大学、上海人工智能研究院有限公司、华东师范大学等等单位

1

共同起草。

二、编制背景与意义

当前，人工智能已成为新一轮科技革命和产业变革的重要

驱动力量，上海已将人工智能定位为重点培育的三大先导产业

之一。目前，全市正在加快建设具有全球影响力的人工智能高

地，全行业呈现技术越做越精、场景日益做深、价值红利不断

释放的趋势。与此同时，人们在享受人工智能技术进步带来的

红利和价值的同时，也面临着其引发的伦理和技术风险，因此

迫切需要技术性指南来指导人工智能系统生命周期的治理，确

保人工智能产业健康发展和对社会的正面影响。2017年7月，

国务院印发的《新一代人工智能发展规划》，明确提出在大力

发展人工智能的同时，必须高度重视安全风险挑战，确保人工

智能安全、可靠、可控发展。2019年6月，国家新一代人工

智能治理专业委员会发布《新一代人工智能治理原则——发展

负责任的人工智能》，提出公平公正、安全可控、开放协作、

敏捷治理等治理原则。

目前人工智能企业、社会、政府对人工智能系统治理的重

要性和必要性已达成基本共识。比如ISO/IECSC42发布了

ISO/IECTR24368:2022《Informationtechnology—

Artificialintelligence—Overviewofethicaland

societalconcerns》（信息技术人工智能伦理和社会关注概

述）与ISO/IEC38507:2022《Informationtechnology-

2

GovernanceofIT-Governanceimplicationsoftheuse

ofartificialintelligencebyorganizations》（信息技术

IT治理组织使用人工智能的治理影响）。然而，上述人工智

能治理的标准侧重于建立人工智能治理的基本原则，而非形成

技术指导文件。总体上，目前国际与国内缺乏标准化、可应用

落地的人工智能系统生命周期治理的技术性指南。因此，制定

人工智能系统生命周期治理指南，形成人工智能系统治理、评

估和管控方法，加强前瞻预防与约束引导，有利于实现安全可

信、负责任的人工智能应用，最大程度地释放人工智能在社会、

经济、环境等各方面的正向价值。

本标准参考了ISO/IEC22989、ISO/IECTR24368、

ISO/IEC38507等人工智能国际标准中人工智能生命周期、人

工智能治理相关条文，提出了人工智能系统生命周期治理的总

则、治理框架和治理流程，提供了人工智能系统生命周期治理

的建议，适用于上海市企业内部在研发人工智能系统时治理的

实施和自我评价，以及政府监管机构、第三方机构对企业人工

智能系统研发、应用过程中治理能力的评价。

三、编制原则

本标准的编写符合GB/T1.1—2020《标准化工作导则第

1部分：标准化文件的结构和起草规则》中的有关规定和要求。