技术栈
数据同步
数据库小学妹
4 小时前
数据库
·
信创
·
数据同步
·
数据交换平台
·
政务数据共享
·
数据共享交换平台
·
数据库底座
数据共享交换平台选型:交换方式对比与避坑指南
大家好,我是数据库小学妹👋我踩过的坑,你别再踩。上周有个做政务项目的朋友来找我吐槽。他们花了半年建数据共享交换平台,目录也梳了,接口也通了。结果一上量,交换链路天天告警,报表数据对不上,查了三天没找到根。我当时问了他一句:“你盯的是平台,还是平台下面的底座?”他愣了两秒。很多团队的坑,就埋在这一刻。
Dyx邓杨喜
14 小时前
http请求
·
etl
·
数据同步
·
任务调度
·
飞书表格
EasyJob开源发布,让数据自动飞进飞书大屏(多种任务类型 : SQL任务,ETL 同步,监控通知,飞书表格同步,HTTP请求,自定义任务流)
一款开箱即用的开源任务调度与数据同步平台 —— EasyJob 开源地址:https://gitee.com/dyx88168/EasyJob (MIT 协议,欢迎 Star ⭐) ( 支持: Window系统🪟, Linux系统💻, Mac苹果系统🍎)
RestCloud
23 天前
mysql
·
数据迁移
·
数据传输
·
数据同步
·
亿级数据传输
·
大数据量传输
大数据量ETL同步优化:亿级表同步与性能调优
随着业务不断迭代沉淀,系统日志、流水类表的数据量会快速膨胀,单表到达亿级规模已经成为很多企业会遇到的现实情况。就拿本文的sys_api_log接口日志表举例,整张表已经积累约1.03亿条记录。
数据库小学妹
24 天前
cdc
·
数据一致性
·
数据同步
·
断点续传
·
国产化替代
·
数据库实时同步工具
数据库实时同步工具怎么选?六类方案对比与避坑清单
大家好,我是数据库小学妹 👋 我踩过的坑,你别再踩。上个月我被拉进一个选型会。客户要换掉跑了六年的 Oracle 同步链路。会议室里摆着三份方案,报价差了三倍。业务方只问一句:明天早上八点前,报表能不能拿到今天的数。
醉颜凉
1 个月前
elasticsearch
·
canal
·
数据同步
·
增量更新
·
全量重建
Canal 与 Elasticsearch 实时同步:增量索引更新、删除处理与全量重建方案
Canal 是阿里巴巴开源的基于数据库增量日志解析的组件,支持 MySQL、Oracle 等数据库。它通过解析数据库的 binlog 日志,将数据变更事件推送到消息队列或直接处理,实现数据的准实时同步。Elasticsearch 是一个基于 Lucene 库的搜索引擎,具有强大的全文检索和分析能力。
冰帆<
1 个月前
数据库
·
数据可视化
·
数据同步
DBViewer — 把数据库工作台,安装进浏览器
一句话:可自托管的Web多数据库工作台。连接密码留在服务器,团队消耗设置工具;SQL、数据编辑、跨源同步、投屏大屏,一条仓库打通。
SeaTunnel
1 个月前
数据库
·
redis
·
哈希算法
·
数据迁移
·
seatunnel
·
数据同步
Redis 数据迁移不用写脚本:SeaTunnel 支持 String、Hash、Set、ZSet 四种数据类型
Apache SeaTunnel 的 Redis 连接器支持 string、hash、set、zset 类型的读取和写入,Redis 到 Redis 的数据搬运不用再手写脚本。本篇按数据类型给出四种同步配置,基于 SeaTunnel 2.3.13 的连接器行为,给有需要的同学一些参考。
ApacheSeaTunnel
1 个月前
大数据
·
开源
·
数据集成
·
seatunnel
·
技术分享
·
数据同步
195 次合并、13 个新连接器!Apache SeaTunnel 8 月有哪些新进展?
Apache SeaTunnel 8 月社区持续高频迭代!本月共合并 195 次提交,60 位贡献者参与贡献,新增 13 个连接器,进一步拓展数据源生态;Zeta 可观测性全面升级,动态日志、Worker 资源监控、Job 状态追踪等能力持续增强;同时,Checkpoint 恢复、CDC Schema Change、CI Merge Queue、声明式 OptionRule 等多项能力完成优化,为数据集成任务带来更强的稳定性、可观测性与运维效率。
RestCloud
1 个月前
etl
·
kettle
·
etlcloud
·
数据传输
·
数据同步
·
数据集成平台
从Kettle迁移到ETLCloud:作业转换、调度迁移与平滑过渡方案
Kettle作为老牌开源ETL工具,凭借可视化拖拽与丰富的转换组件,长期服务于企业的数据抽取、清洗与集成场景。但随着企业业务发展,两方面问题逐步显现:
RestCloud
1 个月前
etl
·
crm
·
erp
·
数据集成
·
etlcloud
·
数据传输
·
数据同步
不同系统集成:CRM系统与ERP、财务系统的数据双向同步
在企业数字化转型进入深水区的今天,CRM、ERP与财务系统往往是三套彼此独立、由不同厂商建设的业务系统:CRM沉淀客户、商机与合同;ERP管理订单、库存与采购;财务系统负责核算、开票与资金。
蒸鱼Yuzheng
1 个月前
数据同步
·
游戏测试
·
跨平台存档
·
云存档
·
账号绑定
游戏跨平台存档怎么测:账号绑定、云端冲突、离线进度与版本兼容
摘要:跨平台存档连接平台账号、游戏账号、本地缓存和云端权威数据,冲突处理是测试核心。标签:游戏测试、跨平台存档、云存档、账号绑定、数据同步
ApacheSeaTunnel
1 个月前
redis
·
开源
·
seatunnel
·
数据同步
·
dynamodb
用 Apache SeaTunnel 同步 DynamoDB 到 Redis,一个配置文件就够
作者:Ricardo Ferreira 编译:Debra Chen假设你把客户数据存储在 Amazon DynamoDB 中,作为应用的唯一数据源(single source of truth)。但如今你需要同样的数据放在 Redis 里,进行快速缓存、实时分析,或是为向量搜索推荐引擎赋能。举例来说,DynamoDB 中这张名为 mySourceTable 的表当前包含两条数据记录。
码哥字节
1 个月前
数据同步
·
容灾架构
·
同城双活
同城双活的核心不是双活,是逼着数据别出机房
行业里有过这样一个真实案例的重述。某公司的业务全压在单机房,一次机房网络割接公告发出来,全员待命,运维盯着监控,一旦抖动就得手动切。后来那机房真断过网,按他们的体量估算,停摆一小时就是千万级的损失。
ApacheSeaTunnel
1 个月前
大数据
·
开源
·
数据集成
·
seatunnel
·
技术分享
·
数据同步
一个关于数据集成的真相:链路 Success 不等于数据真实可靠
在数据工程领域,Fivetran 经常被认为是“简单、省运维”的代表,而 Apache SeaTunnel 等开源项目则意味着更高的灵活性和更强的自主控制能力。究竟应该选择 Managed ELT,还是自己搭建数据集成平台,一直是数据团队争论不休的问题。
ApacheSeaTunnel
2 个月前
数据集成
·
seatunnel
·
数据同步
数据接入与同步不能是“黑盒”!
当企业的数据管道成为核心生产系统时,真正的风险往往不是“同步失败”,而是你不知道它为什么成功,也不知道它为什么失败。
ApacheSeaTunnel
2 个月前
大数据
·
数据集成
·
基准测试
·
seatunnel
·
数据同步
从 60万行/秒说起,看 SeaTunnel Zeta 基准测试如何做到”测得准“
作者 | Niu Zhiwei图 1:同一轮运行中的 JMH 汇总,包括完整 Pipeline 和 SeaTunnelRow 热点操作
ha_lydms
2 个月前
大数据
·
数据仓库
·
dataworks
·
maxcompute
·
hologres
·
odps
·
数据同步
使用DataWorks导入 Maxcompute 数据
DataWorks基于Hologres、MaxCompute等大数据计算引擎,为您提供专业高效、安全可靠的一站式大数据开发与治理平台。
ApacheSeaTunnel
2 个月前
大数据
·
开源
·
数据集成
·
seatunnel
·
技术分享
·
数据同步
Apache SeaTunnel 提交一个任务都经过了什么?
一次 SeaTunnel 任务提交,看起来只是一次 submitJob 请求;但在 Server 内部,它会经过 Master 判断、任务协调、JobMaster 初始化、物理执行计划构建、Pipeline 资源申请、TaskGroup 部署等多个阶段。
RestCloud
2 个月前
数据仓库
·
etl
·
cdc
·
数据同步
·
数据集成平台
·
实时数据同步
·
elt
ETL、ELT、CDC区别详解,2026数据集成模式选型指南与落地实战
ETL(Extract-Transform-Load)是先抽取数据、在中间层清洗转换、再加载到目标的数据集成模式,适用于大批量离线处理;
ApacheSeaTunnel
2 个月前
大数据
·
开源
·
数据集成
·
seatunnel
·
技术分享
·
数据同步
Apache SeaTunnel 2.3.12 进阶实战:MySQL to PostgreSQL 5 套生产场景同步 Demo
本文将从 PostgreSQL 容器部署、测试数据构建,到 5 类生产常用同步模式全覆盖,手把手讲解 SeaTunnel 数据转换、批量优化、前置 SQL 执行等核心技巧,零基础也能快速上手异构数据同步。