龙石数据中台 V3.8.4 升级 | 数据集成心跳检测,数据处理更稳定

本次数据中台V3.8.4版本聚焦实时数据流转与用户操作体验,覆盖数据集成,数据治理、监控预警等多个模块,让数据管理更高效、更稳定、更易用。

一、数据集成

1 数据归集 - 新增心跳测试机制

我们发现在实时数据归集功能中,若来源库长时间无新数据产生,来源库的数据库日志会被定期清理,后续有新数据接入时,任务因缺失同步节点会导致归集任务出错

此次升级,增加心跳测试功能,通过定期推送任务最新日志,避免因来源表长时间不更新、日志删除导致的游标缺失报错问题,保障数据实时流转稳定性。

心跳检测是通过网络周期性发送的状态监测信号,主要用于判断机器、存储器节点的在线状态与运行健康度。其核心原理是通过定期发送微小数据包(心跳包)来确认通信双方或集群节点的可用性。

主要作用:

· 连接维持:防止网络中间设备(如路由器、防火墙)因长时间无数据流而关闭连接。

· 故障探测:快速发现宕机节点,提升分布式系统的可靠性。

2 数据源接入 - 优化文件管理体验

新增单个/批量下载文件,数据获取更灵活。

优化重名文件上传逻辑:上传重名文件时,支持用户自主选择"覆盖原文件"或"保留原文件",操作更可控。

二、数据治理|数据质量模块

1 模式重构 - 简化流程,聚焦核心需求

数据质量模块由"派发模式"改为"不派发模式",去除冗余流转环节。

精简功能菜单:删除「问题数据管理」、「按来源部门 / 责任人自动派发」、「手工派发」、「问题派发日志」、「退回问题设置」、「数据异议管理」、「数据质量评测报告」、「规则质量分析」等 8 项非核心菜单。

新增「问题数据查看」模块:仅保留"待修复"、"已关闭"两种状态的问题数据;"待修复"为评测出的问题数据;"已关闭"为源头修复后系统自动核销的记录。

2 评测模型管理 - 优化配置逻辑

数据源选择:仅显示质量模块支持的数据源类型,并优化为多层级选择样式。

主题创建:取消组织机构关联要求,无需下拉选择部门,简化创建流程。

评测对象管理:新增评测对象时,取消物理表来源部门的校验,无需关联来源部门即可完成添加。

规则管理:隐藏更新频率规则和规则库,简化配置项。

3 评测任务管理 - 新增实用功能

操作优化:新增"立即执行"按钮,支持规则一键全选/取消功能,操作更高效;

执行策略升级:优化为4种执行策略(手工触发、重复执行、定时一次、Cron表达式),适配更多场景。

三、 评测任务管理 - 新增实用功能

数据质量洞察升级

数据治理分析模块新增2大核心功能:「问题数据统计」、「时效性分析报告」模块,助力全面洞察数据质量状况,为决策提供数据支撑。

四、 运维监控

新增「质量评测任务监控」功能,实现核心任务全流程监控。

扩展预警渠道:在数据归集监控、数据清洗监控、数据共享监控模块中,增加企业群消息预警功能,实现异常信息及时同步。

五、基础配置

消息通知配置:新增企业微信群消息配置。

安全强化:对AgentID、密钥、Webhook地址、邮箱密码等敏感信息采用脱敏显示,提升系统信息安全性。

龙石新书|欢迎共创

龙石数据编写的书籍《数据治理实战指南---"理采存管用"落地方法、步骤与模版》已在官网连载了前7章内容,供大家参考交流。

这不是一本晦涩的理论著作。对于实施人员,这是一本手把手帮带的指导书。对于管理人员,这是一本提升成效的检查单。

更特别的是,本书采用了开放式共创的编撰模式,诚邀大家审阅、研讨、共创和交流。

相关推荐
Light6011 天前
不止于名:领码 SPARK 如何“链”动数据仓库、数据湖、中台与湖仓一体新纪元
大数据·数据仓库·数据湖·ipaas·湖仓一体·数据中台·领码 spark
智慧化智能化数字化方案12 天前
数据治理进阶——解读大数据治理主数据管理规划设计方案【附全文阅读】
大数据·数据治理·主数据管理规划
梦想画家16 天前
数据治理5大核心概念:分清、用好,支撑AI智能化应用
人工智能·数据治理
红薯大哥16 天前
小团队选免费项目管理工具够用吗会有哪些限制
数据治理·协作管理·工具选型
JD技术委员会17 天前
小团队用项目管理系统能从哪些维度提升透明度与可控性
项目管理·数据治理·团队协作
Aloudata17 天前
数据治理新解法:基于算子级血缘的主动元数据如何破解数仓重构难题?
大数据·数据库·数据治理·元数据·数据血缘
千桐科技18 天前
qData 数据中台核心能力解析|第 03 期:数据质量能力全景解读
开源软件·数据治理·大数据平台·数据质量·数据中台·qdata·千数平台
Aloudata20 天前
基于 NoETL 语义编织的指标分级管控与口径统一方案实践
java·数据库·数据分析·数据治理·指标平台
F36_9_23 天前
项目管理系统 ROI 计算需要哪些基础数据与口径
项目管理·数据治理·价值评估
Aloudata25 天前
数据工程实践:Aloudata CAN 如何通过 NoETL 实现真·管研用一体?
大数据·数据分析·数据治理·etl·指标平台