龙石数据中台 V3.8.4 升级 | 数据集成心跳检测,数据处理更稳定

本次数据中台V3.8.4版本聚焦实时数据流转与用户操作体验,覆盖数据集成,数据治理、监控预警等多个模块,让数据管理更高效、更稳定、更易用。

一、数据集成

1 数据归集 - 新增心跳测试机制

我们发现在实时数据归集功能中,若来源库长时间无新数据产生,来源库的数据库日志会被定期清理,后续有新数据接入时,任务因缺失同步节点会导致归集任务出错

此次升级,增加心跳测试功能,通过定期推送任务最新日志,避免因来源表长时间不更新、日志删除导致的游标缺失报错问题,保障数据实时流转稳定性。

心跳检测是通过网络周期性发送的状态监测信号,主要用于判断机器、存储器节点的在线状态与运行健康度。其核心原理是通过定期发送微小数据包(心跳包)来确认通信双方或集群节点的可用性。

主要作用:

· 连接维持:防止网络中间设备(如路由器、防火墙)因长时间无数据流而关闭连接。

· 故障探测:快速发现宕机节点,提升分布式系统的可靠性。

2 数据源接入 - 优化文件管理体验

新增单个/批量下载文件,数据获取更灵活。

优化重名文件上传逻辑:上传重名文件时,支持用户自主选择"覆盖原文件"或"保留原文件",操作更可控。

二、数据治理|数据质量模块

1 模式重构 - 简化流程,聚焦核心需求

数据质量模块由"派发模式"改为"不派发模式",去除冗余流转环节。

精简功能菜单:删除「问题数据管理」、「按来源部门 / 责任人自动派发」、「手工派发」、「问题派发日志」、「退回问题设置」、「数据异议管理」、「数据质量评测报告」、「规则质量分析」等 8 项非核心菜单。

新增「问题数据查看」模块:仅保留"待修复"、"已关闭"两种状态的问题数据;"待修复"为评测出的问题数据;"已关闭"为源头修复后系统自动核销的记录。

2 评测模型管理 - 优化配置逻辑

数据源选择:仅显示质量模块支持的数据源类型,并优化为多层级选择样式。

主题创建:取消组织机构关联要求,无需下拉选择部门,简化创建流程。

评测对象管理:新增评测对象时,取消物理表来源部门的校验,无需关联来源部门即可完成添加。

规则管理:隐藏更新频率规则和规则库,简化配置项。

3 评测任务管理 - 新增实用功能

操作优化:新增"立即执行"按钮,支持规则一键全选/取消功能,操作更高效;

执行策略升级:优化为4种执行策略(手工触发、重复执行、定时一次、Cron表达式),适配更多场景。

三、 评测任务管理 - 新增实用功能

数据质量洞察升级

数据治理分析模块新增2大核心功能:「问题数据统计」、「时效性分析报告」模块,助力全面洞察数据质量状况,为决策提供数据支撑。

四、 运维监控

新增「质量评测任务监控」功能,实现核心任务全流程监控。

扩展预警渠道:在数据归集监控、数据清洗监控、数据共享监控模块中,增加企业群消息预警功能,实现异常信息及时同步。

五、基础配置

消息通知配置:新增企业微信群消息配置。

安全强化:对AgentID、密钥、Webhook地址、邮箱密码等敏感信息采用脱敏显示,提升系统信息安全性。

龙石新书|欢迎共创

龙石数据编写的书籍《数据治理实战指南---"理采存管用"落地方法、步骤与模版》已在官网连载了前7章内容,供大家参考交流。

这不是一本晦涩的理论著作。对于实施人员,这是一本手把手帮带的指导书。对于管理人员,这是一本提升成效的检查单。

更特别的是,本书采用了开放式共创的编撰模式,诚邀大家审阅、研讨、共创和交流。

相关推荐
亿信华辰软件2 天前
边对话、边治理、边学习——数据治理的下一代范式
人工智能·数据治理
DataX_ruby824 天前
化工行业数据治理实战:数据中台如何实现安全、环保与生产三域数据融合分析
数据治理·数据中台
千桐科技6 天前
开源共建数字水利生态:千桐科技智慧水利项目正式上线 Gitee,诚邀开发者参与共建!
大数据·开源·数据治理·开源项目·数字水利
好伙狮数字食堂9 天前
医院食堂集团化数据中台架构与运营日报自动推送实践
数据中台·医院食堂·集团化管控
数据分析小兵10 天前
金融数据分类分级实战系列四:如何实现AI自动分级
人工智能·数据治理·数据安全·数据分类分级·ai大模型·数据中台·智能体
Cry丶13 天前
遗留系统数据迁移实战(九):区域编码迁移与补偿接口设计
mysql·数据治理·数据迁移·区域编码·补偿接口·组织区域
数据分析小兵16 天前
金融数据分类分级实战系列一:行业标准JR/T 0197深度解读
数据治理·数据安全·数据分类分级·ai大模型·数据质量·数据中台·智能体
Lab_AI17 天前
AI+新材料研发平台实操培训班圆满举办,创腾科技与上海化工研究院共探材料研发智能化落地路径
人工智能·数据治理·ai4s·ai+新材料研发·ai+材料创新·ai+实验设计·科学数据融合
DataX_ruby8219 天前
2026年数据中台技术路线深度对比:治理架构、AI能力与信创适配全景盘点
人工智能·数据治理·数据中台
鸿翼Macrowing20 天前
**从一份 PDF 到一次 API 调用:企业 AI 能力的“最后一公里“**
人工智能·pdf·agent·数据治理·skill