数据仓库:规范

1.建表规范

1.1. 表命名规范

ods:ods_库名_表名_di(df) 存储贴源数据

dwd:dwd_业务体系_数据域_主题域_业务过程,存储业务过程的明细数据

dim: dim_实体, 如会员:dim_user,dim_product_info

dws:dws_业务体系_数据域_主题域_业务过程_简要描述,存储聚合集市数据

rpt:rpt_业务体系_数据域_主题域_业务过程_简要描述, 报表数据

di:di_业务体系_数据域_主题域_业务过程_简要描述,接口数据

to_:to_业务体系_数据域_主题域_业务过程_简要描述, 出仓数据

过渡临时数据一般会有tmp_开头,或者生成临时库,视具体情况而定

依赖频率会有 2h,1h,30min,15min等等

1.2.字段命名规范:

金额 amt

去重:cnt

计数:num

字段命名原则:业务过程_修饰词_度量_时间

1.3.字段类型:

bigint,decimal(18,4),string,timestamp(视情况而定,有时候统一处理为string),date

1.4.字段值

模型层度量的话,要填充0

维度和时间类的,不作强制约束

1.5.分区

命名:视情况而定,日期格式一般为:yyyymmdd或yyyy-mm-dd

2.开发规范

2.1.禁止 select *

视不同的技术平台,会有略差异

3.作业

3.1.每个作业对应一个目标表

3.2.对源表的要求:update_time,建立索引,及自动获取系统时间

4.其他

4.1.开发时,下游(未来)复用到一定程序,需要落模型

4.2.上下游依赖层次不可过多

4.3.一张ODS产生一个模型层,也不合理,多张表关系的数据,一般会出模型

相关推荐
IT观测1 天前
选高低温环境试验箱,品牌、生产商、厂家哪个维度更可靠?
大数据·人工智能
isNotNullX1 天前
BI如何落地?BI平台如何搭建?
大数据·数据库·人工智能
k8s容器运维大佬1 天前
‌原油拉升、黄金白银走低,通常利好能源与工业板块,利空贵金属与部分成长型科技股‌。
大数据·人工智能
talen_hx2961 天前
《零基础入门Spark》学习笔记 Day 14
大数据·笔记·学习·spark
老纪的技术唠嗑局1 天前
告别OpenClaw配置丢失——Mindkeeper内测版邀测
大数据·elasticsearch·搜索引擎
2501_933329551 天前
技术深度剖析:Infoseek 字节探索舆情处置系统的全链路架构与核心实现
大数据·数据仓库·人工智能·自然语言处理·架构
intcube1 天前
让数据说话,让决策有据——构建闭环的数据驱动运营体系
大数据·人工智能·全面预算管理·财务规划
财经资讯数据_灵砚智能1 天前
基于全球经济类多源新闻的NLP情感分析与数据可视化(夜间-次晨)2026年4月9日
大数据·人工智能·信息可视化·自然语言处理·ai编程
Apache Flink1 天前
Flink Agents 0.3 Roadmap 解读
大数据·flink