99-数仓开发规范.docx

  1. 1、本文档共57页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多

安全生产技术综合管控平台

数据治理项目

数仓开发规范

文件编号:

当前版本:

V0.3

总撰稿人:

最后修订时间:

2023.3.23

目录

TOC\o1-3\h\z\u1.范围 5

2.术语、定义和缩略语 5

3.总则 7

3.1目标 7

3.2原则 7

4.账号权限 8

5.层次调用约定 8

6.数据接入规范 9

6.1结构化数据接入规范 9

6.1.1全量表处理规范 9

6.1.2增量表处理规范 10

6.2接口数据接入规范 11

6.2.1接入要求 11

6.2.2接入方式 11

6.3文件接入规范 12

6.3.1接入要求 12

6.3.2接入方式 13

7.建表参数配置规范 14

8.数据冗余/拆分标准 14

8.1数据冗余标准 14

8.2数据拆分标准 14

9.公共字段定义规范 15

10.数据表命名规范 15

10.1.1原始库/ods层表命名规范 15

10.1.2资源库/std层表命名规范 16

10.1.3主题库/dwd层表命名规范 16

10.1.4专题库/dm层表命名规范 16

10.1.5配置库/字典表命名规范 17

10.1.6临时库表命名规范 17

10.1.7中间库表命名规范 17

10.1.8标准字典库表命名规范 18

10.1.9节点、工作流命名规范 18

10.1.10任务调度规范 19

11.数据建模流程 19

11.1资源库模型设计 19

11.1.1资源库模型梳理前提条件 19

11.1.2设计流程 20

11.2主题库模型设计 21

11.2.1主题库模型梳理前提条件 21

11.2.2设计流程 21

11.3数据开发规范 22

11.3.1资源库开发 22

11.3.2主题库开发 24

11.4专题库建设规范 26

11.4.1专题基本概念 26

11.4.2专题申请流程 27

11.4.3专题建设工作流程(以危化品专题为例) 28

11.4.4数据调研 28

11.4.5需求分析 29

11.4.6模型构建 29

11.4.7数据融合 29

11.4.8数据验证 30

11.4.9数据应用 30

11.5实时数据治理规范 30

11.5.1实时数据治理架构 30

12.工作流开发规范 31

12.1spark语法规范 31

12.1.1SQL编码注意事项 31

12.1.2代码头部说明规范 32

12.1.3字段排列规范 32

12.1.4SELECT字句排列规范 33

12.1.5运算符格式规范 33

12.1.6CASE语句格式规范 34

12.1.7查询嵌套编写规范 34

12.1.8表别名定义规范 35

12.1.9注释规范 36

12.2Flink语法规范 37

12.2.1SQL编码注意事项 37

12.2.2代码头部说明规范 37

12.2.3字段排列规范 38

12.2.4SELECT字句排列规范 38

12.2.5运算符格式规范 39

12.2.6CASE语句格式规范 39

12.2.7查询嵌套编写规范 40

12.2.8表别名定义规范 40

12.2.9注释规范 41

12.2.10参数规范 42

13.数据服务标准 43

13.1术语和定义 43

13.1.1元数据 43

13.1.2信息资源目录 43

13.2概述 43

13.3目录编制 43

13.3.1类目维护和修改 47

13.3.2数据来源、更新周期、更新方式的添加与修改 48

13.3.3信息资源提供方的修改 50

13.3.4可见域的创建、修改、删除 51

13.4服务挂接 51

13.5样例数据添加 53

13.5.2信息资源目录分类 54

13.5.3信息资源元数据 55

13.6服务资源挂载 57

范围

本文档规定了数据仓库的开发规范,供数据仓库的开发维护人员使用。

术语、定义和缩略语

符号与缩略语

缩写

专用名词

数据

文档评论(0)

152****8691 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档