数据质量

森山冶仁2 天前
人工智能·数据治理·数据质量·元数据
把专家抽检变成分钟级全量初审:科学数据审核智能体的召回率与证据链怎么设计数据质量审核长期依赖"人工填报 + 专家抽检",数据规模一大就撑不住:漏检、误判、口径不一。2026 年 10 月 10 日,国家对地观测科学数据中心与上海人工智能实验室在浦江论坛发布"数据汇交与审核智能体",用四路并发把单条任务从 421 秒压到约 26 秒、问题召回率较人工基准提升一倍。本文拆解它的三层设计——知识显性化、证据链、人机分工,并给出企业侧可直接套用的落地清单与四个坑。
织元Zmetaboard6 天前
数据可视化·物流·数据质量·大屏
物流数据大屏模板怎么改?从全国运输总览到区域异常监控物流数据大屏模板怎么改成自己的业务?先确定要回答的运输问题,再保留地图与分区结构、替换订单口径和区域对象,最后核对异常明细与统计时间。 只换公司名称和几个数字,得到的仍是别人的业务页面。
森山冶仁10 天前
数据集·数据治理·数据质量·合规·ai治理
EU AI Act 第 10 条落地前:训练数据的治理文档怎么准备标签:#数据治理 #AI治理 #数据质量 #合规 #数据集摘要: 欧盟《人工智能法案》(EU AI Act)对高风险 AI 系统的训练、验证与测试数据集提出了明确的治理要求,出海企业首当其冲。本文拆解第 10 条的五个要件——质量标准适用、设计选择记录、来源与收集方式、准备处理操作、偏见检查与缓解——给出治理文档清单、与国内 GB/Z 237-2026 等体系的对照复用路径,以及一份可直接套用的准备顺序。
森山冶仁12 天前
数据治理·向量数据库·数据质量·元数据·rag
向量索引也要治理:RAG 系统里“原始数据已作废、向量仍可检索”怎么解RAG 上线后最典型的失效不是模型答错,而是检索层悄悄失效:原文改了向量没改,原文删了向量还在,索引漂移无人发现。本文把向量索引当作一类受管数据资产,拆出索引生命周期、向量权限合规、检索质量闭环三大工作项,给出六张可直接套用的清单与巡检表。
数据分析小兵2 个月前
数据治理·数据安全·数据分类分级·ai大模型·数据质量·数据中台·智能体
金融数据分类分级实战系列一:行业标准JR/T 0197深度解读在数字化浪潮席卷全球的今天,金融数据已成为金融机构的核心资产与命脉。随着《数据安全法》《个人信息保护法》等法律法规的密集出台,金融行业数据安全治理已从"可选动作"转变为"必答题"。面对海量、异构、高价值的金融数据,如何科学分类、合理定级,构建既满足监管要求又贴合业务实际的数据安全防护体系,成为众多金融机构面临的共同挑战。JR/T 0197—2020《金融数据安全 数据安全分级指南》作为金融行业首个专门针对数据安全分级制定的推荐性标准,为这一难题提供了系统性的解决方案。本文旨在深入解读该标准的核心要义,从分
千桐科技8 个月前
开源软件·数据治理·大数据平台·数据质量·数据中台·qdata·千数平台
qData 数据中台核心能力解析|第 03 期:数据质量能力全景解读在数据驱动业务增长的今天,数据质量已不再是“锦上添花”,而是决定数据可信度与业务价值的生命线。当指标波动无法解释、报表结果反复校对、跨系统数据口径不一致时,本质问题往往都指向同一个核心——数据质量缺乏体系化治理能力。
喵手8 个月前
爬虫·python·爬虫实战·数据质量·jinja2·零基础python爬虫教学·爬虫数据抽样可视化验收报告
Python爬虫实战:数据质量的最后一道防线 - 基于 Jinja2 的爬虫数据抽样可视化验收报告!㊗️本期内容已收录至专栏《Python爬虫实战》,持续完善知识体系与项目实战,建议先订阅收藏,后续查阅更方便~ ㊙️本期爬虫难度指数:⭐⭐⭐ 🉐福利: 一次订阅后,专栏内的所有文章可永久免费看,持续更新中,保底1000+(篇)硬核实战内容。
Light609 个月前
分布式·数据治理·数据要素·数据质量·dcmm·领码spark·数据产品化
构建数据要素新纪元:领码SPARK平台驱动的可验证、可交易、可监管数据要素工程体系在数据正式成为第五大生产要素的数字经济时代,如何将海量数据资源转化为可验证、可交易、可监管的高价值数据要素,成为各行各业面临的共同挑战。本文提出以领码SPARK融合平台为技术底座,构建一套完整的数据要素工程体系,系统输出《数据资源识别清单》《数据治理成果报告》《数据质量评价报告》及《数据产品化可行性分析报告》四类关键成果物。解决方案深度集成DCMM(数据管理能力成熟度模型) 国家标准与AI技术,涵盖从数据资源识别、治理提升、质量评价到产品化运营的全生命周期管理。通过"元数据驱动"和"iPaaS+aPaaS
zkl_zkl_10 个月前
笔记·学习·数据处理·数据质量·空间数据
地理信息系统学习笔记——第六章 空间数据采集与处理①野外数据采集:平板测量、全野外数字测图、GPS 空间定位测量。②地图数字化:扫描矢量化、手扶跟踪数字化。
青云交1 年前
边缘计算·工业物联网·数据质量·apache flink·设备状态监测·实时流处理·java 大数据
Java 大视界 -- 基于 Java 的大数据实时流处理在工业物联网设备状态监测中的应用与挑战亲爱的 Java 和 大数据爱好者们,大家好!在科技引领产业变革的时代,大数据技术已成为推动各行业智能化转型的核心引擎。此前,我们通过一系列文章,深入探讨了 Java 大数据在金融、农业、城市规划等多个领域的前沿应用。
友莘居士1 年前
apache·数据治理·dolphin·数据质量·scheduler·数据质检
Apache DolphinScheduler:数据治理中数据质检利器Apache DolphinScheduler 是一个分布式、易扩展的可视化 DAG(有向无环图)工作流任务调度平台。它的核心目标是解决复杂任务依赖关系下的调度问题,让数据工程师和数据分析师能够轻松地构建、管理和监控数据流水线。
梦想画家1 年前
数据质量·数据工程·dagster
Dagster 实现数据质量自动化:6大维度检查与最佳实践在当今数据驱动的世界中,数据质量的重要性不言而喻。数据质量测试是确保数据准确、完整、一致和可靠的关键步骤。本文将深入探讨数据质量测试的六大维度,并提供相关的检查方法和最佳实践。
lovep12 年前
论文阅读·数据质量·大模型算法
Data Filtering Network 论文阅读和理解目录一、TL;DR二、Introduction2.1 apple的结论2.2 业界做法:2.3 我们的做法(Apple)
Aloudata2 年前
大数据·数据分析·数据质量·noetl
NoETL 自动化指标平台如何保障数据质量和口径一致性?随着敏捷商业智能(BI)、用户行为分析、A/B测试等现代数据分析工具的发展,越来越多的业务用户能够自助式地利用数据分析,进行业务决策和判断,这一趋势极大地挖掘并释放了数据的潜在价值。然而,这种数据使用的分散化趋势也带来了新的问题,即数据口径和定义的不一致性,直接削弱了数据分析的可信度与准确性,数据质量难以得到有效保障。
Shaidou_Data2 年前
网络·安全·web安全·数据治理·数据质量·数据资源
安全无界:跨行业视角下的数据治理与网络安全实践在数字化转型的浪潮中,数据已成为各行各业发展的核心驱动力。随着金融、医疗、教育、制造、零售等行业的深度融合与跨界合作,数据治理与网络安全面临着前所未有的挑战与机遇。如何在跨行业的视角下,实现数据的安全共享与高效利用,成为当前亟待解决的问题。本文将从数据治理的重要性、跨行业数据互联互通的挑战、以及网络安全实践三个方面,探讨安全无界的跨行业数据治理与网络安全实践。
张永清2 年前
数据资产管理·数据质量
《数据资产管理核心技术与应用》读书笔记-第四章:数据质量的技术实现(三)《数据资产管理核心技术与应用》是清华大学出版社出版的一本图书,全书共分10章,第1章主要让读者认识数据资产,了解数据资产相关的基础概念,以及数据资产的发展情况。第2~8章主要介绍大数据时代数据资产管理所涉及的核心技术,内容包括元数据的采集与存储、数据血缘、数据质量、数据监控与告警、数据服务、数据权限与安全、数据资产管理架构等。第9~10章主要从实战的角度介绍数据资产管理技术的应用实践,包括如何对元数据进行管理以发挥出数据资产的更大潜力,以及如何对数据进行建模以挖掘出数据中更大的价值。
孙朝和2 年前
大数据·数据治理·数据质量
入门指南 | Datavines 安装部署篇摘要:本文主要介绍基于源码部署 Datavines 和执行检查作业,内容主要分为以下几个部分:Datavines 的目标是成为更好的数据可观测性领域的开源项目,为更多的用户去解决元数据管理和数据质量管理中遇到的问题。在此我们真诚欢迎更多的贡献者参与到社区建设中来,和我们一起成长,携手共建更好的社区。
daopuyun2 年前
大数据·安全·信息可视化·数据质量
大数据数据血缘是什么,跟数据质量有什么关系?从下面这张表我们可以引出一个数据血缘的概念。数据血缘:数据的来龙去脉,主要包含数据的来源、数据的加工方式、映射关系以及数据出口。
张永清2 年前
大数据·数据资产管理·数据质量
《数据资产管理核心技术与应用》读书笔记-第四章:数据质量的技术实现(二)《数据资产管理核心技术与应用》是清华大学出版社出版的一本图书,全书共分10章,第1章主要让读者认识数据资产,了解数据资产相关的基础概念,以及数据资产的发展情况。第2~8章主要介绍大数据时代数据资产管理所涉及的核心技术,内容包括元数据的采集与存储、数据血缘、数据质量、数据监控与告警、数据服务、数据权限与安全、数据资产管理架构等。第9~10章主要从实战的角度介绍数据资产管理技术的应用实践,包括如何对元数据进行管理以发挥出数据资产的更大潜力,以及如何对数据进行建模以挖掘出数据中更大的价值。
张永清2 年前
数据资产管理·数据质量
《数据资产管理核心技术与应用》读书笔记-第四章:数据质量的技术实现(一)《数据资产管理核心技术与应用》是清华大学出版社出版的一本图书,全书共分10章,第1章主要让读者认识数据资产,了解数据资产相关的基础概念,以及数据资产的发展情况。第2~8章主要介绍大数据时代数据资产管理所涉及的核心技术,内容包括元数据的采集与存储、数据血缘、数据质量、数据监控与告警、数据服务、数据权限与安全、数据资产管理架构等。第9~10章主要从实战的角度介绍数据资产管理技术的应用实践,包括如何对元数据进行管理以发挥出数据资产的更大潜力,以及如何对数据进行建模以挖掘出数据中更大的价值。