龙石数据中台 V3.8.4 升级 | 数据集成心跳检测,数据处理更稳定

本次数据中台V3.8.4版本聚焦实时数据流转与用户操作体验,覆盖数据集成,数据治理、监控预警等多个模块,让数据管理更高效、更稳定、更易用。

一、数据集成

1 数据归集 - 新增心跳测试机制

我们发现在实时数据归集功能中,若来源库长时间无新数据产生,来源库的数据库日志会被定期清理,后续有新数据接入时,任务因缺失同步节点会导致归集任务出错

此次升级,增加心跳测试功能,通过定期推送任务最新日志,避免因来源表长时间不更新、日志删除导致的游标缺失报错问题,保障数据实时流转稳定性。

心跳检测是通过网络周期性发送的状态监测信号,主要用于判断机器、存储器节点的在线状态与运行健康度。其核心原理是通过定期发送微小数据包(心跳包)来确认通信双方或集群节点的可用性。

主要作用:

· 连接维持:防止网络中间设备(如路由器、防火墙)因长时间无数据流而关闭连接。

· 故障探测:快速发现宕机节点,提升分布式系统的可靠性。

2 数据源接入 - 优化文件管理体验

新增单个/批量下载文件,数据获取更灵活。

优化重名文件上传逻辑:上传重名文件时,支持用户自主选择"覆盖原文件"或"保留原文件",操作更可控。

二、数据治理|数据质量模块

1 模式重构 - 简化流程,聚焦核心需求

数据质量模块由"派发模式"改为"不派发模式",去除冗余流转环节。

精简功能菜单:删除「问题数据管理」、「按来源部门 / 责任人自动派发」、「手工派发」、「问题派发日志」、「退回问题设置」、「数据异议管理」、「数据质量评测报告」、「规则质量分析」等 8 项非核心菜单。

新增「问题数据查看」模块:仅保留"待修复"、"已关闭"两种状态的问题数据;"待修复"为评测出的问题数据;"已关闭"为源头修复后系统自动核销的记录。

2 评测模型管理 - 优化配置逻辑

数据源选择:仅显示质量模块支持的数据源类型,并优化为多层级选择样式。

主题创建:取消组织机构关联要求,无需下拉选择部门,简化创建流程。

评测对象管理:新增评测对象时,取消物理表来源部门的校验,无需关联来源部门即可完成添加。

规则管理:隐藏更新频率规则和规则库,简化配置项。

3 评测任务管理 - 新增实用功能

操作优化:新增"立即执行"按钮,支持规则一键全选/取消功能,操作更高效;

执行策略升级:优化为4种执行策略(手工触发、重复执行、定时一次、Cron表达式),适配更多场景。

三、 评测任务管理 - 新增实用功能

数据质量洞察升级

数据治理分析模块新增2大核心功能:「问题数据统计」、「时效性分析报告」模块,助力全面洞察数据质量状况,为决策提供数据支撑。

四、 运维监控

新增「质量评测任务监控」功能,实现核心任务全流程监控。

扩展预警渠道:在数据归集监控、数据清洗监控、数据共享监控模块中,增加企业群消息预警功能,实现异常信息及时同步。

五、基础配置

消息通知配置:新增企业微信群消息配置。

安全强化:对AgentID、密钥、Webhook地址、邮箱密码等敏感信息采用脱敏显示,提升系统信息安全性。

龙石新书|欢迎共创

龙石数据编写的书籍《数据治理实战指南---"理采存管用"落地方法、步骤与模版》已在官网连载了前7章内容,供大家参考交流。

这不是一本晦涩的理论著作。对于实施人员,这是一本手把手帮带的指导书。对于管理人员,这是一本提升成效的检查单。

更特别的是,本书采用了开放式共创的编撰模式,诚邀大家审阅、研讨、共创和交流。

相关推荐
物联网IoT小易17 小时前
物联网设备数据异常怎么处理?重复、乱序、断点续传与脏数据治理
物联网·mqtt·数据治理·时序数据库·物联网设备·物联网设备接入·物联网设备连接
大大大大晴天️4 天前
从数仓建模到 AI 数据底座:重新理解数据治理的位置
大数据·数据治理
沙淘金数据服务4 天前
电商订单数据整合难题拆解:多源异构数据如何实现自动化治理?
大数据·人工智能·数据治理·数据清洗·电商·外贸
千桐科技6 天前
qData 开源版数据中台 v1.6.2 上线:修复数据连接、元数据与项目管理等多项问题
大数据·开源·数据治理·数据可视化·数据中台·元数据·qdata
袋鼠云数栈6 天前
实时湖仓如何真正做到“数据够新”?
大数据·数据库·人工智能·数据治理
灰灰20267 天前
政务数据分类分级:从零梳理、目录搭建、验收标准全解
数据治理·数据合规·数据目录·政务数据分类分级·政务数据安全·密评等保·政务项目建设
ltqvibe10 天前
数据很脏,能不能上AI问数
大数据·人工智能·数据治理·智能问数·ai问数·本体语义·数据口径
richdata11 天前
商品数字化不是先做大数据,而是先把数据变成可用决策
大数据·运维·数据治理·商品数字化·智能补货·ai商品决策
SL-staff15 天前
采购数据链打通实战:三步用JVS-BI实现跨系统ELT与嵌入式分析(附配置逻辑)
doris·数据集成·数据中台·elt·jvs-bi·采购数字化·低代码分析
森山冶仁18 天前
AI 原生数据治理技术栈:大模型 + 向量库 + 知识图谱怎么选
人工智能·知识图谱·数据治理