《人工智能技术应用伦理风险的治理要求》.docxVIP

ICSCCS

35.240.01L70

37

山东省地方标准

DB37/TXXXX—XXXX

人工智能技术应用伦理风险的治理要求

Governancerequirementsofethicalrisksintheapplicationofartificialintelligencetechnology

（报批稿）

（本草案完成时间：2025年2月8日）

XXXX-XX-XX发布XXXX-XX-XX实施

山东省市场监督管理局发布

I

DB37/TXXXX—XXXX

目次

前言 II

1范围 3

2规范性引用文件 3

3术语和定义 3

4治理框架 4

5治理原则 4

6治理参与方 5

6.1管理者 5

6.2研发者 5

6.3供应商 5

6.4使用者 6

7治理核心要求 6

7.1以人为本 6

7.2隐私保护 6

7.3知情同意 6

7.4安全可控 7

7.5公平无歧视 7

7.6透明可追溯 7

7.7责任明确 8

7.8技术中立性 8

7.9监测与改进 8

7.10教育与培训 8

参考文献 9

II

DB37/TXXXX—XXXX

前言

本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定

起草。

请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。

本文件由山东省工业和信息化厅提出并组织实施。本文件由山东省人工智能标准化技术委员会归口。

3

DB37/TXXXX—XXXX

人工智能技术应用伦理风险的治理要求

1范围

本文件规定了人工智能技术应用伦理风险的治理框架、治理原则、治理参与方和治理核心要求。本文件适用于人工智能技术应用伦理风险的研究以及人工智能系统的规划、设计等。

2规范性引用文件

本文件没有规范性引用文件。

3术语和定义

下列术语和定义适用于本文件。3.1

人工智能artificialintelligence；AI

学科人工智能系统相关机制和应用的研究和开发。

[来源：GB/T41867—2022，3.1.2]3.2

伦理ethics

人工智能开展人工智能技术基础研究和应用实践时遵循的道德规范或者准则。

[来源：GB/T41867—2022，3.4.8]3.3

风险risk

不确定性对目标的影响。

注1：影响是指偏离预期，偏离可以是正面的和/或负面的，可能带来机会和威胁。

注2：目标可有不同维度和类型，可应用在不同层级。

注3：通常风险可以用风险源、潜在事件及其后果和可能性来描述。

[来源：GB/T24353—2022，3.1]

3.4

人工智能系统artificialintelligencesystem

针对人类定义的给定目标，产生诸如内容、预测、推荐或决策等输出的一类工程系统。

注1：该工程系统使用人工智能相关的多种技术和方法，开发表征数据、知识、过程等的模型，用于执行任务。注2：人工智能系统具备不同的自动化级别。

[来源：GB/T41867—2022，3.1.8]3.5

偏见bias

人工智能对待特定对象、人员或群体时，相较于其他实体出现系统性差别的特性。

注1：对待指任何一种行动，包括感知、观察、表征、预测或决定。注2：歧视是带有贬义色彩的偏见。

4

DB37/TXXXX—XXXX

[来源：GB/T41867—2022，3.4.10，有修改]

4治理框架

人工智能技术应用伦理治理框架由内向外分别由治理原则、治理参与方、治理核心要求三方面组成，人工智能技术应用伦理治理框架见图1，具体如下。

a)治理原则：提出了实施人工智能技术应用伦理治理的基本指导原则，为识别提出人工智能技术应用伦理治理的参与方和核心要求提供基础。

b)治理参与方：识别了人工智能技术应用伦理治理过程中涉及的对象和主体，以及每类主体主要的治理目标，包括人工智能技术应用管理者、人工智能技术研发者、人工智能产品与服务供应商、人工智能产品与服务使用者等。

c)治理核心要求：提出了人工智能技术应用伦理治理的核心要求，是伦理治理框架的关键组成部分。

图1人工智能技术应用伦理治理框架

5治理原则

人工智能技术应用伦理治理原则包