龙石数据中台 V3.8.4 升级 | 数据集成心跳检测,数据处理更稳定

本次数据中台V3.8.4版本聚焦实时数据流转与用户操作体验,覆盖数据集成,数据治理、监控预警等多个模块,让数据管理更高效、更稳定、更易用。

一、数据集成

1 数据归集 - 新增心跳测试机制

我们发现在实时数据归集功能中,若来源库长时间无新数据产生,来源库的数据库日志会被定期清理,后续有新数据接入时,任务因缺失同步节点会导致归集任务出错

此次升级,增加心跳测试功能,通过定期推送任务最新日志,避免因来源表长时间不更新、日志删除导致的游标缺失报错问题,保障数据实时流转稳定性。

心跳检测是通过网络周期性发送的状态监测信号,主要用于判断机器、存储器节点的在线状态与运行健康度。其核心原理是通过定期发送微小数据包(心跳包)来确认通信双方或集群节点的可用性。

主要作用:

· 连接维持:防止网络中间设备(如路由器、防火墙)因长时间无数据流而关闭连接。

· 故障探测:快速发现宕机节点,提升分布式系统的可靠性。

2 数据源接入 - 优化文件管理体验

新增单个/批量下载文件,数据获取更灵活。

优化重名文件上传逻辑:上传重名文件时,支持用户自主选择"覆盖原文件"或"保留原文件",操作更可控。

二、数据治理|数据质量模块

1 模式重构 - 简化流程,聚焦核心需求

数据质量模块由"派发模式"改为"不派发模式",去除冗余流转环节。

精简功能菜单:删除「问题数据管理」、「按来源部门 / 责任人自动派发」、「手工派发」、「问题派发日志」、「退回问题设置」、「数据异议管理」、「数据质量评测报告」、「规则质量分析」等 8 项非核心菜单。

新增「问题数据查看」模块:仅保留"待修复"、"已关闭"两种状态的问题数据;"待修复"为评测出的问题数据;"已关闭"为源头修复后系统自动核销的记录。

2 评测模型管理 - 优化配置逻辑

数据源选择:仅显示质量模块支持的数据源类型,并优化为多层级选择样式。

主题创建:取消组织机构关联要求,无需下拉选择部门,简化创建流程。

评测对象管理:新增评测对象时,取消物理表来源部门的校验,无需关联来源部门即可完成添加。

规则管理:隐藏更新频率规则和规则库,简化配置项。

3 评测任务管理 - 新增实用功能

操作优化:新增"立即执行"按钮,支持规则一键全选/取消功能,操作更高效;

执行策略升级:优化为4种执行策略(手工触发、重复执行、定时一次、Cron表达式),适配更多场景。

三、 评测任务管理 - 新增实用功能

数据质量洞察升级

数据治理分析模块新增2大核心功能:「问题数据统计」、「时效性分析报告」模块,助力全面洞察数据质量状况,为决策提供数据支撑。

四、 运维监控

新增「质量评测任务监控」功能,实现核心任务全流程监控。

扩展预警渠道:在数据归集监控、数据清洗监控、数据共享监控模块中,增加企业群消息预警功能,实现异常信息及时同步。

五、基础配置

消息通知配置:新增企业微信群消息配置。

安全强化:对AgentID、密钥、Webhook地址、邮箱密码等敏感信息采用脱敏显示,提升系统信息安全性。

龙石新书|欢迎共创

龙石数据编写的书籍《数据治理实战指南---"理采存管用"落地方法、步骤与模版》已在官网连载了前7章内容,供大家参考交流。

这不是一本晦涩的理论著作。对于实施人员,这是一本手把手帮带的指导书。对于管理人员,这是一本提升成效的检查单。

更特别的是,本书采用了开放式共创的编撰模式,诚邀大家审阅、研讨、共创和交流。

相关推荐
森山冶仁34 分钟前
EU AI Act 第 10 条落地前:训练数据的治理文档怎么准备
数据集·数据治理·数据质量·合规·ai治理
大大大大晴天️8 小时前
元数据目录到数据资产运营:让好数据被看见、被复用、被持续经营
大数据·数据治理
森山冶仁2 天前
向量索引也要治理:RAG 系统里“原始数据已作废、向量仍可检索”怎么解
数据治理·向量数据库·数据质量·元数据·rag
森山冶仁3 天前
场内数据交易为什么成效不佳:从复旦报告点出的“制造交易量”说起
数据治理·数据要素·数据资产·数据交易·踩坑复盘
森山冶仁3 天前
重点行业数据融合开发怎么落地:以汽车与医疗健康两行业的“整体授权+分领域协同”为例
数据治理·数据要素·公共数据授权运营·数据产品·行业数据集
森山冶仁5 天前
智能体研发数据怎么确认入表:当数据既是“运行介质”又是“直接产出”
数据治理·数据要素·智能体·数据入表·数据资产
蒸鱼Yuzheng5 天前
HarmonyOS HAP 与调试工件治理:包结构、版本身份与自动化证据链
自动化·性能测试·数据治理·harmonyos·hap
AIGS0016 天前
什么是本体语义平台?和知识图谱、传统数据中台的区别在哪
人工智能·知识图谱·数据中台·ai问数·本体语义平台·智能数据中台
森山冶仁7 天前
数据券、算力券、语料券:地方补贴政策里数据治理团队该申领什么
数据治理·数据要素·数据平台·数据资产·政策解读
森山冶仁13 天前
2026 数据岗正在分化成三支:治理推动者、AI-ready 治理专家与数据产品经理
职业发展·数据治理·ai落地·数据产品经理·数据标准