《人工智能预训练模型 价值对齐技术框架》.pdfVIP

ICS03.120.20

CCSA00

DBXXXX

深圳市地方标准

DBXXXX/TXXXX—2024

人工智能预训练模型价值对齐技术框架

ArtificialIntelligencePre-trainedModels–AIAlignment:Technical

Framework

（征求意见稿）

2024-XX-XX发布2024-XX-XX实施

深圳市市场监督管理局发布

DBXXXX/TXXXX—2024

目次

前言II

1范围3

2规范性引用文件3

3术语和定义3

4价值对齐概述6

4.1概念构成6

4.2基础准则6

4.3价值对齐目标8

5价值对齐技术框架8

6价值对齐对象10

6.1概述10

6.2基础模型11

6.3通用性模型12

6.4专用任务模型12

6.5多模态模型13

6.6具身智能模型14

6.7智能体14

7价值对齐技术15

7.1概述15

7.2活动输入15

7.3活动输出16

7.4前向对齐17

7.5后向对齐19

8价值对齐应用21

8.1模型对齐优化21

8.2模型对齐治理22

9价值对齐生态23

9.1生态主要活动23

参考文献24

I

DBXXXX/TXXXX—2024

前言

本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定

起草。

请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。

本文件由深圳市工业和信息化局提出并归口。

本文件起草单位：深圳赛西信息技术有限公司、北京大学人工智能研究院、清华大学深圳国际研究

生院、鹏城实验室、华为技术有限公司、平安科技（深圳）有限公司、香港中文大学（深圳）、深圳市

星创数字经济研究中心、粤港澳大湾区数字经济研究院、深圳市标准技术研究院、北京智源人工智能研

究院、北京谋远咨询有限公司、深圳市中电电力技术股份有限公司、深圳优优互联网络科技有限公司。

本文件主要起草人：谭瑞琥、高万琪、杨耀东、李平、雷雪晶、刘方明、吉嘉铭、陈博远、陈琢、

王畅、唐思洁、莫凡、瞿晓阳、张楠、赵展展、吴保元、崔丽坤、徐巍、李悦、李婷、周宏、王瑞、孙

千国、王超群、戴俊韬、方亮、段雅文、谢旻希、刘宁、王鹏、符亚雄、江伟伟。

II