人工智能技术应用伦理风险的治理要求_地方标准编制说明.docVIP

PAGE

PAGE2

1-

1-

《人工智能技术应用伦理风险的治理要求（报批稿）》地方标准编制说明

一、工作简况

任务来源

2020年12月21日，山东省市场监督管理局印发《2020年第二批地方标准制修订计划项目》的通知（鲁市监标字〔2020〕329号），本标准列为推荐性地方标准，计划编号为“2020年第二批地方标准制修订计划项目—12”，立项标准名称为《人工智能伦理风险的治理要求》。本标准由山东省工业和信息化厅提出并组织实施，由山东省人工智能标准化技术委员会归口。

起草单位、起草人及任务分工

本标准起草单位包括山东省计算中心（国家超级计算济南中心）、山东新一代标准化研究院有限公司、济南大学、浪潮云洲工业互联网有限公司、山东科技大学、聊城大学、山东省人工智能研究院、山东博远视讯信息技术有限公司、山东财经大学、山东联合电力产业发展有限公司、山东省人工智能协会、山东省科学技术情报研究院、山东省肿瘤防治研究院（山东省肿瘤医院）、山东博物馆。

本标准的主要起草人为王妍、高永超、吴林、纪科、曾庆田、刘潇、李文博、刘培德、李超、杨成伟、陈贞翔、单珂、卢晓建、贾仰理、刘洋、张振领、张文博、翟虎、苏冠群、徐鹏摇、陈瑶瑶、蒋金广。所做工作如下：

王妍、高永超负责总体设计和技术把关，吴林、纪科、曾庆田、刘潇、李文博负责标准调研、文本起草，刘培德、李超、杨成伟、陈贞翔、单珂负责技术资料收集分析，卢晓建、贾仰理、刘洋、张振领、张文博、翟虎、苏冠群、徐鹏摇、陈瑶瑶、蒋金广等参与标准起草。

起草过程

1.成立起草组

山东省市场监督管理局标准制修订计划下达后，山东省计算中心（国家超级计算济南中心）高度重视本标准的制定工作，为确保标准制定的科学性、普适性和严谨性，于2021年1月成立标准起草工作组，负责本标准的制定工作。

2.形成标准工作组讨论稿

标准起草工作组充分收集研究国际国内有关人工智能技术应用伦理风险的文献资料，重点了解人工智能技术应用伦理风险的类别以及造成人工智能伦理风险的主要原因。在此基础上，标准起草工作组认真研究了国家及山东省关于人工智能伦理的政策文件，经过多次讨论和修改于2022年6月形成标准的工作组讨论稿。

3.形成标准征求意见稿

2022年9月，在山东省人工智能标委会内部征求本标准草案的修改意见，标准起草工作组从内容科学性、表述规范性等方面，对标准文本进行了相应的修改完善，形成本标准的征求意见稿。

4.标准公开征求意见

2022年10月，山东省人工智能标委会就本标准向社会公开征求意见，同时通过山东省物联网协会、山东省人工智能协会，面向人工智能领域研究机构、企业和相关行业协会等32个单位和专家发送“地方标准草案征求意见稿”及相关材料，广泛征求意见，收到“地方标准草案征求意见稿”后，回函的单位或专家数为22个，回函并有建议或意见的单位或专家数为13个，没有回函的单位或专家数为10个，共收到48条意见，反馈意见包括格式的规范性、技术内容的准确性以及建议名称修改为《人工智能技术应用伦理风险的治理要求》等。

5.形成标准送审稿

根据公开征求意见情况，标准起草组对标准的范围和框架、人工智能技术应用伦理风险的治理参与方等关键问题进行充分研讨，逐项处理反馈意见，进一步修改完善了标准文本，2023年3月形成本标准的送审稿和相关配套材料，并于2023年4月通过省级地方标准管理系统上报《人工智能技术应用伦理风险的治理要求》地方标准送审稿及配套材料。收到系统反馈意见后，标准起草组于2024年2月、3月多次召开会议针对术语定义、人工智能技术应用伦理风险的治理要求等方面研究讨论，进一步完善草案送审稿内容，于2024年4月形成更新的标准送审稿及配套材料并提交系统。2024年8月，第二次收到系统反馈意见，编制组逐条讨论反馈意见，2024年9月形成更新的标准送审稿及配套材料。2024年11月，系统送审审核通过，同意召开标准审查会。

6.技术审查

2025年1月21日，山东省工业和信息化厅在济南组织召开了专家审查会议，共邀请9名专家组成地方标准专家审查委员会，全面审查了本标准的先进性、合理性、适用性、规范性等，会议一致同意该标准通过审查。标准起草组根据地方标准技术审查意见修改并经审查专家复审后，形成本标准草案报批稿。

二、地方标准制定目的和意义

以人工智能技术的研发和应用为代表的新一轮科技革命，在方便人们生活的同时也带来了复杂的伦理问题和治理挑战，人工智能伦理已经成为各国各地区持续关注的重点。2020年国家标准化管理委员会、中央网信办、国家发展改革委、科技部及工业和信息化部联合印发《国家新一代人工智能标准体系建设指南》，将人工智能伦理列入国家人工智能标准体系，提出规范人工智能服务冲击传统道德伦理和法律秩序而产生的要求。2022年中共中央办公厅、国