数据集成

正在走向自律4 天前
数据库·oracle·信创·数据集成·国产数据库·kingbasees·全量+增量同步
数据集成产品的技术底座:从日志解析原理到 KFS 同步链路搭建(含建表与增删改查完整代码)聊数据集成产品之前,先想一个更原始的问题:两个数据库,一个 Oracle 一个别的什么,业务还在不停往里写,你怎么让对端跟上?
小懿互联集成平台14 天前
数据集成·金蝶云星空·数据对接·小懿互联·极风wms·业仓一体化
金蝶云星空与极风 WMS 业务协同对接实施方案一、方案概述企业使用金蝶云星空承载采购、销售、库存、财务成本核算,管理账面库存、物料、仓库、客商等主数据;极风 WMS负责海外仓实物仓储作业,包含收货、拣货、打包、出库、退货上架、库存盘点等仓内执行操作。
2601_962387822 个月前
python·mysql·数据集成·presto·联邦查询
多源数据查询指南:MySQL 联邦、Python 聚合与 Presto 引擎全对比一、学前花絮在如今异构数据源越发普遍的状况下, 怎样去使得分散于不同数据库里面的数据开展协同查询, 这变成了数据工程师遭遇的关键课题。传统数据库所提供的联邦查询功能, 像是 MySQL 的 引擎, 曾经被视作标准答案, 然而它繁杂的授权体系以及性能阻碍常常让人因畏惧而却步。
ApacheSeaTunnel2 个月前
大数据·开源·数据集成·seatunnel·技术分享·数据同步
195 次合并、13 个新连接器!Apache SeaTunnel 8 月有哪些新进展?Apache SeaTunnel 8 月社区持续高频迭代!本月共合并 195 次提交,60 位贡献者参与贡献,新增 13 个连接器,进一步拓展数据源生态;Zeta 可观测性全面升级,动态日志、Worker 资源监控、Job 状态追踪等能力持续增强;同时,Checkpoint 恢复、CDC Schema Change、CI Merge Queue、声明式 OptionRule 等多项能力完成优化,为数据集成任务带来更强的稳定性、可观测性与运维效率。
RestCloud2 个月前
etl·crm·erp·数据集成·etlcloud·数据传输·数据同步
不同系统集成:CRM系统与ERP、财务系统的数据双向同步在企业数字化转型进入深水区的今天,CRM、ERP与财务系统往往是三套彼此独立、由不同厂商建设的业务系统:CRM沉淀客户、商机与合同;ERP管理订单、库存与采购;财务系统负责核算、开票与资金。
SL-staff2 个月前
doris·数据集成·数据中台·elt·jvs-bi·采购数字化·低代码分析
采购数据链打通实战:三步用JVS-BI实现跨系统ELT与嵌入式分析(附配置逻辑)本文以采购协同为典型场景,从技术落地视角拆解如何在不改造ERP/MES/WMS等源系统前提下,通过JVS-BI构建轻量级采购数据中台:涵盖多源接入、可视化ELT建模、主题数据集生成及分析能力嵌入业务流程的完整实践路径。
ApacheSeaTunnel2 个月前
大数据·开源·数据集成·seatunnel·技术分享·数据同步
一个关于数据集成的真相:链路 Success 不等于数据真实可靠在数据工程领域,Fivetran 经常被认为是“简单、省运维”的代表,而 Apache SeaTunnel 等开源项目则意味着更高的灵活性和更强的自主控制能力。究竟应该选择 Managed ELT,还是自己搭建数据集成平台,一直是数据团队争论不休的问题。
SeaTunnel2 个月前
http·开源·json·apache·数据集成·seatunnel
从 JSON 到 JSONL,Apache SeaTunnel 如何解决HTTP 大数据传输的内存难题?转载自 | 数仓生态圈SeaTunnel可以从HTTP中获取数据,一般来说,HTTP会返回一个JSON格式的字符串,SeaTunnel解析JSON后分解出来数据类型,然后输出到目标系统中。
ApacheSeaTunnel2 个月前
数据集成·seatunnel·数据同步
数据接入与同步不能是“黑盒”!当企业的数据管道成为核心生产系统时,真正的风险往往不是“同步失败”,而是你不知道它为什么成功,也不知道它为什么失败。
ApacheSeaTunnel3 个月前
大数据·数据集成·基准测试·seatunnel·数据同步
从 60万行/秒说起,看 SeaTunnel Zeta 基准测试如何做到”测得准“作者 | Niu Zhiwei图 1:同一轮运行中的 JMH 汇总,包括完整 Pipeline 和 SeaTunnelRow 热点操作
ApacheSeaTunnel3 个月前
大数据·开源·数据集成·seatunnel·技术分享·数据同步
Apache SeaTunnel 提交一个任务都经过了什么?一次 SeaTunnel 任务提交,看起来只是一次 submitJob 请求;但在 Server 内部,它会经过 Master 判断、任务协调、JobMaster 初始化、物理执行计划构建、Pipeline 资源申请、TaskGroup 部署等多个阶段。
ApacheSeaTunnel3 个月前
大数据·开源·数据集成·seatunnel·技术分享·数据同步
Apache SeaTunnel 2.3.12 进阶实战:MySQL to PostgreSQL 5 套生产场景同步 Demo本文将从 PostgreSQL 容器部署、测试数据构建,到 5 类生产常用同步模式全覆盖,手把手讲解 SeaTunnel 数据转换、批量优化、前置 SQL 执行等核心技巧,零基础也能快速上手异构数据同步。
ApacheSeaTunnel3 个月前
大数据·ai·开源·大模型·数据集成·cli·seatunnel·技术分享·数据同步
Apache SeaTunnel AI CLI Benchmark:7 款大模型、100 个 ETL 任务实测,谁真正能跑起来?作者 | 张鑫,Apache SeaTunnel Contributor摘要: 大模型正在快速进入数据工程领域,承担理解自然语言需求、生成 ETL 任务配置、校验配置,以及在执行失败后协助定位和修复问题等工作。对团队而言,真正困难的并不是让模型“生成一份配置”,而是避免选到一个只会生成看似正确、却无法在生产环境中稳定运行的模型。
ApacheSeaTunnel3 个月前
大数据·数据库·ai·开源·数据集成·seatunnel·技术分享·数据同步
一套替代四套!同程旅行用 Apache SeaTunnel 搭建多模态统一数据通道同程旅行数据通道服务历经多年演进,形成了数据搬运、数据集成、Sqoop、SeaTunnel 四套并存的格局,功能重叠、引擎割裂、整体运维成本居高不下。
ApacheSeaTunnel4 个月前
大数据·开源·数据集成·seatunnel·技术分享·数据同步·airbyte·fivetran
为什么 Data Ingestion 还没有被 Fivetran/Airbyte 完全解决?在 Reddit 的数据工程社区(r/dataengineering)里,关于数据接入(Data Ingestion)的选型讨论永远充满着火药味。当团队需要在生产环境落地一套现代数据栈(MDS)时,最常见的纠结就是:“选 Fivetran 还是 Airbyte?或者还有什么开源的硬核替代方案?”
ApacheSeaTunnel4 个月前
大数据·开源·数据集成·seatunnel·技术分享·数据同步
当多表数据涌入,Apache SeaTunnel 如何巧妙化解主键冲突?点亮Star!https://github.com/apache/seatunnel来源 | 数仓生态圈
ApacheSeaTunnel4 个月前
大数据·mysql·开源·doris·数据集成·seatunnel·数据同步
实战演示 | 基于 Apache SeaTunnel 与 Apache DolphinScheduler 实现 MySQL 到 Doris 离线定时增量同步在企业数据平台建设过程中,数据同步是一项非常常见的需求。随着业务规模不断增长,全量同步带来的数据库压力和资源消耗也会越来越大。因此,在实际生产环境中,增量同步往往是更常见的选择。
挨踢诗人5 个月前
python·数据集成
天猫(淘宝开放平台)集成金蝶云星空电商企业线上线下数据割裂,天猫店铺前端销售与金蝶云星空后端供应链、财务数据无法互通,导致商品信息重复录入、库存不准易超卖、订单发货与售后退货需人工线下录入财务单据,业务效率低、数据易出错、业财不同步。企业亟需通过天猫与金蝶云星空的集成,实现商品、库存、订单、售后数据自动同步,打通电商与业财一体化流程。
挨踢诗人5 个月前
python·数据集成
旺店通ERP集成金蝶云星空解决方案在电商与实体业务融合的数字化转型浪潮中,许多企业面临订单、库存、采购等数据在多系统间孤岛的问题。旺店通ERP作为专业的电商ERP系统,擅长订单管理、仓储物流和多平台销售协同,而金蝶云星空作为面向成长型企业的云ERP平台,在财务管控、供应链协同、多组织管理等方面具备强大能力。
千桐科技5 个月前
开源·数据治理·数据集成·数据开发·数据中台·元数据管理·qdata
qData 数据中台社区开源版 v1.4.0 发布:元数据管理核心模块正式上线近日,qData 数据中台社区开源版 v1.4.0 正式发布。qData 数据中台是一套面向企业数据治理与数据研发场景的开源数据中台,围绕 ETL 数据集成、数据开发、数据建模、元数据管理、数据质量、数据资产、API 数据服务与 AI 智能问数 等核心能力,支持 MySQL、DM8、Oracle、SQL Server、Kingbase8、Doris 等常用数据库接入,帮助企业快速完成数据接入、清洗转换、资产编目、质量检查、接口开放和 Text2SQL 分析。