数据质量管理-准确性管理

前情提要

根据GB/T 36344-2018《信息技术 数据质量评价指标》的标准文档,当前数据质量评价指标框架中包含6评价指标,在实际的数据治理过程中,存在一个关联性指标。7个指标中存在4个定性指标,3个定量指标;

定性指标:规范性、准确性、唯一性、可访问性

定量指标:完整性、时效性、关联性

规范性--数据符合数据标准、数据模型、业务规则、元数据或权威参考数据的程度;

完整性--按照数据规则要求,数据元素被赋予数值的程度;

准确性--数据准确表示其所描述的真实实体(实际对象)真实值的程度;

一致性--数据与其他特定上下文中使用的数据无矛盾的程度;

时效性--数据在时间变化中的正确程度;

可访问性--数据能被访问的程度;

关联性--数据记录的实体与实体、实体与时间、实体与地理信息等维度之间的关系构建程度;

今天重点讲解定性指标准确性怎么进行数据监测和指标量化

官方定义: 数据准确表示其所描述的真实实体(实际对象)真实值的程度;

作用的环节: 可以在数据治理完成后的数据明细层和数据服务层(dwd/dws/ads);

数据质量管理依据: 需要结合数据资产建设手册的"标准参考"、数据使用标准的"数据使用口径"二者结合对真实世界的了解和业务逻辑的理解;

数据监测方法: 此类监测目标也可以圈定核心数据和重要数据进行重点监测。通过数据分级分类标准,识别出核心数据和重要数据,基于圈定的数据范围,数据质检人员结合上述数据质量管理依据制定数据准确性校验。

注:准确性的标准基于不同的场景、对数据不同的理解都会有所偏差。

①场景对数据的需求颗粒度会影响数据准确性的判断依据;

②数据口径理解的不同对数据准确性的偏差也会有所不同;

由于准确性的定义均需要参考外部依据,且评判的标准无法固定,因此搭建的监测流程需要兼顾三个维度:一是该数据项是否有监测流程,二是该监测语句是否有效;三是检查出的错误是否能及时被修正;

量化标准:

1.需要明确数据监测范围,到字段级别;

2.需要明确数据更新频率,作为执行周期和修正周期设置的参考依据;

3.设置评定指标的量化方法;

|------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 第一张表为准确性语句信息表,作为管理准确性质检语句相关流程; 第二张表为准确性质检语句运行结果存储表,存储准确性语句每一期运行的结果和修正的结果(备注:要求修正的时间为该语句下一期的执行时间) 第三张表为准确性指标赋分逻辑,该表统计了每一期该表的每个监测字段的准确性得分结果: *计算时间:取表2中的"要求修正的时间" 是否有监测流程:监测表一中该字段是否存在未下架的准确性质检语句,若有,则赋值60分,表明该表的该字段有准确性监测流程; 监测语句有效分:查看表2中在"要求修正的时间"所对应的当期是否有执行结果不为0的质检语句,有1个则+5分; 错误是否及时被修正:查看表2中当期修正截止时间执行结果(错误数)大于0则进行扣分; |

最终,基于字段的平均分计算,获得这张表在这个计算时间点的准确性得分;

注: 数据准确性指标的监测,既需要内部监测,形成循环改善的过程,也需要"广开言路",收集用户的数据问题,了解用户在数据使用过程中发现的问题或者存在的疑惑;更需要定期对内部协同部门和数据用户输出数据业务培训,培养数据敏感度,拉通数据话语体系;

相关推荐
森山冶仁1 天前
智能体研发数据怎么确认入表:当数据既是“运行介质”又是“直接产出”
数据治理·数据要素·智能体·数据入表·数据资产
蒸鱼Yuzheng1 天前
HarmonyOS HAP 与调试工件治理:包结构、版本身份与自动化证据链
自动化·性能测试·数据治理·harmonyos·hap
森山冶仁3 天前
数据券、算力券、语料券:地方补贴政策里数据治理团队该申领什么
数据治理·数据要素·数据平台·数据资产·政策解读
森山冶仁9 天前
2026 数据岗正在分化成三支:治理推动者、AI-ready 治理专家与数据产品经理
职业发展·数据治理·ai落地·数据产品经理·数据标准
衡石科技13 天前
指标管理平台选型指南:四个评估维度与一份验证清单
数据治理·指标平台·指标管理·ai bi·选型指南
明航咨询_贾老师14 天前
DCMM 2.0落地实操深度拆解|从数据治理到数据资产化,五步走框架与三个核心能力
数据治理
大大大大晴天️14 天前
大数据数据治理体系建设:从平台能力到组织闭环的完整蓝图
大数据·数据治理
Patrick在香港15 天前
Python 审计香港开放数据目录:两个端点差 10 倍,只有 9.3% 的资源标了「最后修改时间」
开发语言·数据库·python·数据分析·api·数据治理·开放数据
物联网IoT小易18 天前
物联网设备数据异常怎么处理?重复、乱序、断点续传与脏数据治理
物联网·mqtt·数据治理·时序数据库·物联网设备·物联网设备接入·物联网设备连接
大大大大晴天️21 天前
从数仓建模到 AI 数据底座:重新理解数据治理的位置
大数据·数据治理