人工智能技术应用伦理风险的治理要求_地方标准编制说明.pdf

《人工智能技术应用伦理风险的治理要求（报

批稿）》地方标准编制说明

一、工作简况

（一）任务来源

2020年12月21日，山东省市场监督管理局印发《2020年

第二批地方标准制修订计划项目》的通知（鲁市监标字〔2020〕

329号），本标准列为推荐性地方标准，计划编号为“2020年第

二批地方标准制修订计划项目—12”，立项标准名称为《人工智

能伦理风险的治理要求》。本标准由山东省工业和信息化厅提出

并组织实施，由山东省人工智能标准化技术委员会归口。

（二）起草单位、起草人及任务分工

本标准起草单位包括山东省计算中心（国家超级计算济南中

心）、山东新一代标准化研究院有限公司、济南大学、浪潮云洲

工业互联网有限公司、山东科技大学、聊城大学、山东省人工智

能研究院、山东博远视讯信息技术有限公司、山东财经大学、山

东联合电力产业发展有限公司、山东省人工智能协会、山东省科

学技术情报研究院、山东省肿瘤防治研究院（山东省肿瘤医院）、

山东博物馆。

本标准的主要起草人为王妍、高永超、吴林、纪科、曾庆田、

刘潇、李文博、刘培德、李超、杨成伟、陈贞翔、单珂、卢晓建、

-1-

贾仰理、刘洋、张振领、张文博、翟虎、苏冠群、徐鹏摇、陈瑶

瑶、蒋金广。所做工作如下：

王妍、高永超负责总体设计和技术把关，吴林、纪科、曾庆

田、刘潇、李文博负责标准调研、文本起草，刘培德、李超、杨

成伟、陈贞翔、单珂负责技术资料收集分析，卢晓建、贾仰理、

刘洋、张振领、张文博、翟虎、苏冠群、徐鹏摇、陈瑶瑶、蒋金

广等参与标准起草。

（三）起草过程

1.成立起草组

山东省市场监督管理局标准制修订计划下达后，山东省计算

中心（国家超级计算济南中心）高度重视本标准的制定工作，为

确保标准制定的科学性、普适性和严谨性，于2021年1月成立

标准起草工作组，负责本标准的制定工作。

2.形成标准工作组讨论稿

标准起草工作组充分收集研究国际国内有关人工智能技术

应用伦理风险的文献资料，重点了解人工智能技术应用伦理风险

的类别以及造成人工智能伦理风险的主要原因。在此基础上，标

准起草工作组认真研究了国家及山东省关于人工智能伦理的政

策文件，经过多次讨论和修改于2022年6月形成标准的工作组

讨论稿。

3.形成标准征求意见稿

-2-

2022年9月，在山东省人工智能标委会内部征求本标准草

案的修改意见，标准起草工作组从内容科学性、表述规范性等方

面，对标准文本进行了相应的修改完善，形成本标准的征求意见

稿。

4.标准公开征求意见

2022年10月，山东省人工智能标委会就本标准向社会公开

征求意见，同时通过山东省物联网协会、山东省人工智能协会，

面向人工智能领域研究机构、企业和相关行业协会等32个单位

和专家发送“地方标准草案征求意见稿”及相关材料，广泛征求

意见，收到“地方标准草案征求意见稿”后，回函的单位或专家

数为22个，回函并有建议或意见的单位或专家数为13个，没有

回函的单位或专家数为10个，共收到48条意见，反馈意见包括

格式的规范性、技术内容的准确性以及建议名称修改为《人工智

能技术应用伦理风险的治理要求》等。

5.形成标准送审稿

根据公开征求意见情况，标准起草组对标准的范围和框架、

人工智能技术应用伦理风险的治理参与方等关键问题进行充分

研讨，逐项处理反馈意见，进一步修改完善了标准文本，2023

年3月形成本标准的送审稿和相关配套材料，并于2023年4月

通过省级地方标准管理系统上报《人工智能技术应用伦理风险的

治理要求》地方标准送审稿及配套材料。收到系统反馈意见后，

-3-

标准起草组于2024年2月、3月多次召开会议针对术语定义、

人工智能技术应用伦理风险的治理要求等方面研究讨论，进一步

完善草案送审稿内容，于2024年4月形成更新的标准送审稿及

配套材料并提交系统。2024年8月，第二次收到系统反馈意见，

编制组逐条讨论反馈意见，2024年