《人工智能预训练模型 价值对齐技术框架》.pdfVIP

ICS03.120.20

CCSA00

DB4403

深圳市地方标准

DB4403/TXXX—XXXX

人工智能预训练模型价值对齐技术框架

ArtificialIntelligencePre-trainedModels–AIAlignment:Technical

Framework

（送审稿）

XXXX-XX-XX发布XXXX-XX-XX实施

深圳市市场监督管理局发布

DB4403/TXXX—XXXX

目次

前言II

1范围3

2规范性引用文件3

3术语和定义3

4价值对齐概述6

4.1概念构成6

4.2基础准则6

4.3价值对齐目标7

5价值对齐技术框架8

6价值对齐对象9

6.1概述10

6.2基础模型11

6.3通用性模型11

6.4专用任务模型12

6.5多模态模型12

6.6具身智能模型13

6.7智能体14

7价值对齐技术14

7.1概述14

7.2活动输入15

7.3活动输出15

7.4前向对齐16

7.5后向对齐18

8价值对齐应用21

8.1模型对齐优化21

8.2模型对齐治理21

9价值对齐生态22

9.1生态主要活动22

参考文献24

I

DB4403/TXXX—XXXX

前言

本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定

起草。

请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。

本文件由深圳市工业和信息化局提出并归口。

本文件起草单位：深圳赛西信息技术有限公司、北京大学人工智能研究院、清华大学深圳国际研究

生院、鹏城实验室、华为技术有限公司、平安科技（深圳）有限公司、香港中文大学（深圳）、深圳市

星创数字经济研究中心、粤港澳大湾区数字经济研究院、深圳市标准技术研究院、北京智源人工智能研

究院、北京谋远咨询有限公司、深圳市中电电力技术股份有限公司、深圳优优互联网络科技有限公司。

本文件主要起草人：谭瑞琥、高万琪、杨耀东、李平、雷雪晶、吉嘉铭、陈博远、陈琢、王畅、刘

方明、唐思洁、莫凡、瞿晓阳、张楠、赵展展、吴保元、崔丽坤、徐巍、李悦、李婷、王瑞、孙千国、

王超群、戴俊韬、方亮、段雅文、谢旻希、刘宁、王鹏、符亚雄、江伟伟。

II

DB4403/TXXX—XXXX

人工智能预训练模型价值对齐技术框架

1范围

本文件确立了对人工智能预训练模型进行价值对齐的技术参考架构和相关方活动。

本文件适用于人工智能价值对齐技术的研究、开发、应用、治理。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，

仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本

文件。

GB/T45081-2024人工智能管