数据仓库:规范

1.建表规范

1.1. 表命名规范

ods:ods_库名_表名_di(df) 存储贴源数据

dwd:dwd_业务体系_数据域_主题域_业务过程,存储业务过程的明细数据

dim: dim_实体, 如会员:dim_user,dim_product_info

dws:dws_业务体系_数据域_主题域_业务过程_简要描述,存储聚合集市数据

rpt:rpt_业务体系_数据域_主题域_业务过程_简要描述, 报表数据

di:di_业务体系_数据域_主题域_业务过程_简要描述,接口数据

to_:to_业务体系_数据域_主题域_业务过程_简要描述, 出仓数据

过渡临时数据一般会有tmp_开头,或者生成临时库,视具体情况而定

依赖频率会有 2h,1h,30min,15min等等

1.2.字段命名规范:

金额 amt

去重:cnt

计数:num

字段命名原则:业务过程_修饰词_度量_时间

1.3.字段类型:

bigint,decimal(18,4),string,timestamp(视情况而定,有时候统一处理为string),date

1.4.字段值

模型层度量的话,要填充0

维度和时间类的,不作强制约束

1.5.分区

命名:视情况而定,日期格式一般为:yyyymmdd或yyyy-mm-dd

2.开发规范

2.1.禁止 select *

视不同的技术平台,会有略差异

3.作业

3.1.每个作业对应一个目标表

3.2.对源表的要求:update_time,建立索引,及自动获取系统时间

4.其他

4.1.开发时,下游(未来)复用到一定程序,需要落模型

4.2.上下游依赖层次不可过多

4.3.一张ODS产生一个模型层,也不合理,多张表关系的数据,一般会出模型

相关推荐
dalalajjl1 小时前
每个Python开发者都应该试试知道创宇AiPy!工作效率提升500%的秘密武器
大数据·人工智能
2501_9416233210 小时前
人工智能赋能智慧农业互联网应用:智能种植、农业数据分析与产量优化实践探索》
大数据·人工智能
YangYang9YangYan11 小时前
网络安全专业职业能力认证发展路径指南
大数据·人工智能·安全·web安全
小五传输11 小时前
常用的文件摆渡系统:让数据安全高效跨越网络界限
大数据·运维·安全
数据科学小丫14 小时前
数据分析与FineBI介绍
大数据·数据分析·finebi
ALex_zry14 小时前
Git大型仓库推送失败问题完整解决方案
大数据·git·elasticsearch
二进制coder15 小时前
Git Fork 开发全流程教程
大数据·git·elasticsearch
天硕国产存储技术站19 小时前
DualPLP 双重掉电保护赋能 天硕工业级SSD筑牢关键领域安全存储方案
大数据·人工智能·安全·固态硬盘
雷文成.思泉软件19 小时前
以ERP为核心、企微为门户,实现一体化集成
大数据·低代码·创业创新
东哥说-MES|从入门到精通21 小时前
数字化部分内容 | 十四五年规划和2035年远景目标纲要(新华社正式版)
大数据·人工智能·数字化转型·mes·数字化工厂·2035·十四五规划