标准编制说明-人工智能系统生命周期治理指南.docx

1

《人工智能系统生命周期治理指南》编制说明

目前人工智能企业、社会、政府对人工智能系统治理的重要性和必要性已达成基本共识。然而，当前人工智能治理的标准侧重于建立人工智能治理的基本原则，而非形成技术指导文件。总体上，目前国际与国内缺乏标准化、可应用落地的人工智能系统生命周期治理的技术性指南。因此，制定人工智能系统生命周期治理指南，形成人工智能系统治理、评估和管控方法，加强前瞻预防与约束引导，有利于实现安全可信、负责任的人工智能应用，最大程度地释放人工智能在社会、经济、环境等各方面的正向价值。

一、任务来源

经上海市市场监管局评审、公示，根据2022年8月26日发布的《上海市市场监督管理局关于下达2022年度第三批上海市地方标准制修订项目计划的通知》（沪市监标技〔2022〕371号），《人工智能系统生命周期治理指南》正式立项。本标准由上海市经济和信息化委员会提出，上海市人工智能标准化技术委员会归口，上海计算机软件技术开发中心、上海市人工智能行业协会、上海依图科技有限公司、上海商汤智能科技有限公司、公安部第三研究所、上海人工智能实验室、上海交通大学、上海人工智能研究院有限公司、华东师范大学等等单位

2

共同起草。

二、编制背景与意义

当前，人工智能已成为新一轮科技革命和产业变革的重要驱动力量，上海已将人工智能定位为重点培育的三大先导产业之一。目前，全市正在加快建设具有全球影响力的人工智能高地，全行业呈现技术越做越精、场景日益做深、价值红利不断释放的趋势。与此同时，人们在享受人工智能技术进步带来的红利和价值的同时，也面临着其引发的伦理和技术风险，因此迫切需要技术性指南来指导人工智能系统生命周期的治理，确保人工智能产业健康发展和对社会的正面影响。2017年7月，国务院印发的《新一代人工智能发展规划》，明确提出在大力发展人工智能的同时，必须高度重视安全风险挑战，确保人工智能安全、可靠、可控发展。2019年6月，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出公平公正、安全可控、开放协作、敏捷治理等治理原则。

目前人工智能企业、社会、政府对人工智能系统治理的重要性和必要性已达成基本共识。比如ISO/IECSC42发布了ISO/IECTR24368:2022《Informationtechnology—Artificialintelligence—Overviewofethicalandsocietalconcerns》（信息技术人工智能伦理和社会关注概述）与ISO/IEC38507:2022《Informationtechnology-

3

GovernanceofIT-Governanceimplicationsoftheuseofartificialintelligencebyorganizations》（信息技术IT治理组织使用人工智能的治理影响）。然而，上述人工智能治理的标准侧重于建立人工智能治理的基本原则，而非形成技术指导文件。总体上，目前国际与国内缺乏标准化、可应用落地的人工智能系统生命周期治理的技术性指南。因此，制定人工智能系统生命周期治理指南，形成人工智能系统治理、评估和管控方法，加强前瞻预防与约束引导，有利于实现安全可信、负责任的人工智能应用，最大程度地释放人工智能在社会、经济、环境等各方面的正向价值。

本标准参考了ISO/IEC22989、ISO/IECTR24368、ISO/IEC38507等人工智能国际标准中人工智能生命周期、人工智能治理相关条文，提出了人工智能系统生命周期治理的总则、治理框架和治理流程，提供了人工智能系统生命周期治理的建议，适用于上海市企业内部在研发人工智能系统时治理的实施和自我评价，以及政府监管机构、第三方机构对企业人工智能系统研发、应用过程中治理能力的评价。

三、编制原则

本标准的编写符合GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》中的有关规定和要求。

标准中的相关内容广泛参考了ISO/IEC22989、ISO/IECTR24368、ISO/IEC38507等人工智能国际标准中人工智能生

4

命周期、人工智能治理相关条文，同时参考了全国信标委人工智能分委会发布的《可信赖人工智能标准化白皮书（2022）》、《人工智能伦理治理标准化指南（2023版）》等关于人工智能可信、伦理的技术白皮书，以及《新一代人工智