企业数字化最大的坑不是技术,是主数据——18年实战笔记

企业数字化最大的坑不是技术,是主数据------18年实战笔记

18年汽车行业数字化,甲方乙方都干过。从DMS运维起步,管过DMS/TMS/MES/PDM/BI,后来全面转数据方向,主导过CDP客户数据平台、数据中台、MA数字化运营平台的建设。持有CDGP数据治理专家认证。

这两段经历让我同时看过两件事:业务系统怎么造数据的,以及数据平台怎么被这些数据搞崩的。

技术栈从SAP BusinessObjects换到QuickBI,从传统数仓换到云原生,但我越来越确信一件事------企业数字化最大的坑,从来不是技术选型,不是上不上云,不是用Hadoop还是Spark。是主数据。

什么是主数据

DMBOK的定义很学术:企业中跨系统共享的、描述核心业务实体的、相对稳定的基础数据。

用我自己的话说:主数据就是企业里那些"所有系统都要用、但谁都不想管"的东西。客户是谁、车是哪辆、经销商在哪个区域、配件是什么型号------这些信息每个系统都在用,但每个系统用的版本可能都不一样。

在汽车行业,核心主数据实体通常包括六类:客户、车辆、经销商、产品/车型、组织、物料配件。每一类都需要解决三个问题:

  1. 唯一标识------怎么确认这是同一个人/同一辆车
  1. 属性规范------该填什么字段、填什么格式
  1. 变更追溯------改了之后能不能追溯历史值

三件事看着简单,我用了18年也没见到几家企业真正做到位。

下面用三个真实场景说说,主数据到底是怎么在项目里"搞事情"的。

场景一:DMS里的"一个人变三条记录"

2008年,我在做DMS(经销商管理系统)运维。经销商反馈:同一个客户来店里保养了三次,系统里出现三条记录。

根因是什么?第一次用手机号注册,第二次换了邮箱,第三次销售人员手动录入打错了名字。三个不同标识,系统判断为三个不同的人。

这在数据治理领域叫**实体识别(Entity Resolution)**问题------多个数据记录指向同一现实实体时,系统无法判定它们是同一个。当时的DMS只关注业务流程闭环:卖出车 → 记录维修 → 完成入库,流程跑通就行。"这个人到底是谁"这个问题,不在DMS的功能边界里。

现在回看,这其实是个主数据唯一标识缺失的问题。如果系统设计时就定义了客户主数据的唯一标识规则(比如以手机号为主标识,证件号为辅助标识),前端的录入校验就能拦住大部分重复。

但18年后的今天,大量企业的新系统仍然在犯同样的错误。

场景二:CDP的OneID与黄金记录

2019年我主导C企CDP建设,核心模块之一是OneID。OneID说白了就是跨系统实体识别 ------把分散在DMS、CRM、售后系统、第三方平台、车机端的数据,匹配到同一个人身上,最终生成一份黄金记录(Golden Record)------即跨系统最完整、最准确的那份客户档案。

一辆车的生命周期涉及的数据源远比想象中复杂:

  • 厂家DMS(经销商录入的客户信息)
  • 厂家CRM(营销活动留资)
  • 经销商售后系统(维修保养记录)
  • 第三方平台(汽车之家、懂车帝的线索)
  • 车机端(App注册、远程控制)
  • 充电桩/换电站(新能源专属)

每个系统对客户的标识规则不同------有的用手机号,有的用车架号(VIN),有的用身份证号,有的压根没有唯一标识。

我们设计了四级关联规则:手机号 → 证件号 → VIN → 行为特征,按优先级逐级匹配。效果很直接:客群筛选效率从"数天"降到了"分钟级"。

但这里有个前提条件经常被忽略------各源系统的主数据至少得是规范的。具体来说,涉及数据质量的四个维度:

  • 完整性:必填字段有没有缺
  • 一致性:同一个客户在不同系统里的基本信息是否吻合
  • 准确性:手机号是不是对的,身份证号有没有错位
  • 时效性:客户去年换的手机号,系统里更新了没有

如果源头这四个维度都是一团糟,OneID的匹配算法再强也只是"精准地制造错误"。

场景三:数据中台分层架构卡在ODS层

2022年我在V企数据中台项目里主导数据治理标准和模型规范。数仓按ODS → DWD → DWS → ADS四层架构分层,这是业界标准做法------Kimball维度建模理论的核心思路,实现数据从原始到可用的分层加工。

分层做到一半卡住了。卡在ODS层。

ODS(操作数据存储层)直接从业务系统抽数据,但业务系统的主数据本身就不统一。举个最典型的例子------同一个"上海":

  • 销售系统里叫"上海市"
  • 物流系统里叫"沪"
  • 财务系统里叫"SH"

这在数据治理领域叫参考数据不一致------同一个枚举值在不同系统有不同编码。如果不先做主数据标准化,直接把这些数据灌进DWD层,ADS层出来的报表就是错的。老板看到的"上海区域销量"可能比实际少了一半,因为物流那边的"沪"压根没匹配上。

解法是建立主数据映射表数据血缘------追踪数据从源头到报表的流转路径,标记每一个转换节点。但这一切的前提,还是源系统的主数据得先理清。

为什么大多数企业做不好主数据

DAMA体系给的答案是"缺乏数据治理组织框架和职责定义",这话没错但太理论。我的实战观察是这样的。

第一,跨部门权责划分不清。 主数据治理本质上是跨部门的数据权责划分问题。销售系统归销售部,售后系统归售后部,但客户主数据跨在中间,没有哪个部门能说"我负责所有系统的客户主数据"。这种跨部门公共区域,在没有明确的**数据管家(Data Steward)**角色定义时,必然陷入没人管的状态。

第二,见效周期太长。 主数据治理属于数据治理的基础层,回报周期长------不像BI看板,做完老板能直接看到图。我见过好几个主数据治理项目,做到一半预算被砍,理由是"看不到业务价值"。这其实是个数据资产认知成熟度的问题------企业还没到那个阶段,不认为数据本身是资产。

第三,技术与业务理解错位。 这个更隐蔽。技术团队说的是"建MDM系统、定数据标准、做主数据维护流程",业务团队说的是"我就是要看到准确的客户信息"。两边说的是同一件事,但语言体系完全不同。这种错位导致主数据项目经常变成技术自嗨------系统建了、标准写了、流程定了,业务不用。

我的四阶段方法论

经过这些年踩坑,我形成了一套方法论,核心思路是七个字:先理清、再标准化、后建系统。

第一阶段:主数据盘点与数据画像(Data Profiling)

不急着建系统。先花两周把企业现有核心系统摸一遍,用数据探查工具分析每个系统里的主数据实体:有多少条、重复率多高、完整性如何、字段分布情况。输出一张《主数据现状盘点表》------这一步的产出本身就是和业务对话的基础。

第二阶段:主数据标准定义

拉业务部门一起定规则。以客户主数据为例:

复制代码

这个环节最关键的一点------标准不是技术团队自己定的,必须业务部门签字认可。 否则就是废纸。

第三阶段:数据质量监控机制

建立定期巡检 + 异常告警机制。不是一次性清洗完就结束,而是持续监控主数据质量。监控指标示例:

|---------------|------|--------|
| 监控项 | 检查频率 | 告警阈值 |
| 必填字段空值率 | 每日 | > 5% |
| 重复记录率 | 每周 | > 2% |
| 关联匹配率 | 每周 | < 95% |
| 时效性(手机号变更未同步) | 每月 | > 3% |

第四阶段:源系统改造

从录入端就保证主数据质量。这一步最难,因为涉及改业务系统的前端逻辑和操作习惯,但也是最根本的。只在数仓里清洗数据,源头一直造脏数据,本质上是在用ETL给业务系统的不规范擦屁股。

写在最后

18年做下来,DMS、CRM、BI、CDP、数据中台、MA、数据湖......技术换了一轮又一轮。但有一件事从来没变过:主数据是乱的,后面的系统再先进也是空中楼阁。

如果你正在做企业数字化,我的建议是------把主数据治理放在所有数据项目的最前面。这一步省不了,绕不过。


作者:凌波,18年汽车行业数字化老兵,CDGP数据治理专家。从DMS运维到数据中台架构,甲方乙方都干过。同名公众号「凌波微数」,持续分享数据治理、数据架构、企业数字化的实战经验。

下篇预告:《OneID怎么做才算及格?从C企CDP说起》