seatunnel

SeaTunnel2 天前
seatunnel
Kafka Topic 扩容后,Apache SeaTunnel 不重启也能消费新分区数据在一个SeaTunnel使用流任务获取Kafka topic中的数据时,如果topic从2 个分区扩到了4个分区。结果呢?新分区里的数据,任务一条都消费不到——除非把任务重启一遍。
betazhou8 天前
apache·seatunnel
Apache seatunel常用配置参数解析说明下面我按你目前使用的 SeaTunnel 2.3.12 + Zeta Engine + Oracle-CDC → MySQL JDBC Sink 场景整理一份,重点放在实际配置文件里最常用、最容易混淆的参数。
SeaTunnel10 天前
数据库·redis·哈希算法·数据迁移·seatunnel·数据同步
Redis 数据迁移不用写脚本:SeaTunnel 支持 String、Hash、Set、ZSet 四种数据类型Apache SeaTunnel 的 Redis 连接器支持 string、hash、set、zset 类型的读取和写入,Redis 到 Redis 的数据搬运不用再手写脚本。本篇按数据类型给出四种同步配置,基于 SeaTunnel 2.3.13 的连接器行为,给有需要的同学一些参考。
ApacheSeaTunnel11 天前
大数据·开源·数据集成·seatunnel·技术分享·数据同步
195 次合并、13 个新连接器!Apache SeaTunnel 8 月有哪些新进展?Apache SeaTunnel 8 月社区持续高频迭代!本月共合并 195 次提交,60 位贡献者参与贡献,新增 13 个连接器,进一步拓展数据源生态;Zeta 可观测性全面升级,动态日志、Worker 资源监控、Job 状态追踪等能力持续增强;同时,Checkpoint 恢复、CDC Schema Change、CI Merge Queue、声明式 OptionRule 等多项能力完成优化,为数据集成任务带来更强的稳定性、可观测性与运维效率。
betazhou18 天前
数据库·oracle·apache·seatunnel
Apache Seatunnel 抽取Oracle数据库测试cat Capture-oracle-test.conf查看日志记录测试抽取验证成功。
ApacheSeaTunnel19 天前
redis·开源·seatunnel·数据同步·dynamodb
用 Apache SeaTunnel 同步 DynamoDB 到 Redis,一个配置文件就够作者:Ricardo Ferreira 编译:Debra Chen假设你把客户数据存储在 Amazon DynamoDB 中,作为应用的唯一数据源(single source of truth)。但如今你需要同样的数据放在 Redis 里,进行快速缓存、实时分析,或是为向量搜索推荐引擎赋能。举例来说,DynamoDB 中这张名为 mySourceTable 的表当前包含两条数据记录。
ApacheSeaTunnel1 个月前
大数据·开源·数据集成·seatunnel·技术分享·数据同步
一个关于数据集成的真相:链路 Success 不等于数据真实可靠在数据工程领域,Fivetran 经常被认为是“简单、省运维”的代表,而 Apache SeaTunnel 等开源项目则意味着更高的灵活性和更强的自主控制能力。究竟应该选择 Managed ELT,还是自己搭建数据集成平台,一直是数据团队争论不休的问题。
SeaTunnel1 个月前
http·开源·json·apache·数据集成·seatunnel
从 JSON 到 JSONL,Apache SeaTunnel 如何解决HTTP 大数据传输的内存难题?转载自 | 数仓生态圈SeaTunnel可以从HTTP中获取数据,一般来说,HTTP会返回一个JSON格式的字符串,SeaTunnel解析JSON后分解出来数据类型,然后输出到目标系统中。
ApacheSeaTunnel1 个月前
数据集成·seatunnel·数据同步
数据接入与同步不能是“黑盒”!当企业的数据管道成为核心生产系统时,真正的风险往往不是“同步失败”,而是你不知道它为什么成功,也不知道它为什么失败。
ApacheSeaTunnel1 个月前
大数据·数据集成·基准测试·seatunnel·数据同步
从 60万行/秒说起,看 SeaTunnel Zeta 基准测试如何做到”测得准“作者 | Niu Zhiwei图 1:同一轮运行中的 JMH 汇总,包括完整 Pipeline 和 SeaTunnelRow 热点操作
SeaTunnel1 个月前
java·大数据·服务器·apache·etl·seatunnel
Apache SeaTunnel 提交一个任务都经过了什么?一次 SeaTunnel 任务提交,看起来只是一次 submitJob 请求;但在 Server 内部,它会经过 Master 判断、任务协调、JobMaster 初始化、物理执行计划构建、Pipeline 资源申请、TaskGroup 部署等多个阶段。
ApacheSeaTunnel1 个月前
大数据·开源·数据集成·seatunnel·技术分享·数据同步
Apache SeaTunnel 提交一个任务都经过了什么?一次 SeaTunnel 任务提交,看起来只是一次 submitJob 请求;但在 Server 内部,它会经过 Master 判断、任务协调、JobMaster 初始化、物理执行计划构建、Pipeline 资源申请、TaskGroup 部署等多个阶段。
ApacheSeaTunnel2 个月前
大数据·开源·数据集成·seatunnel·技术分享·数据同步
Apache SeaTunnel 2.3.12 进阶实战:MySQL to PostgreSQL 5 套生产场景同步 Demo本文将从 PostgreSQL 容器部署、测试数据构建,到 5 类生产常用同步模式全覆盖,手把手讲解 SeaTunnel 数据转换、批量优化、前置 SQL 执行等核心技巧,零基础也能快速上手异构数据同步。
ApacheSeaTunnel2 个月前
大数据·ai·开源·大模型·数据集成·cli·seatunnel·技术分享·数据同步
Apache SeaTunnel AI CLI Benchmark:7 款大模型、100 个 ETL 任务实测,谁真正能跑起来?作者 | 张鑫,Apache SeaTunnel Contributor摘要: 大模型正在快速进入数据工程领域,承担理解自然语言需求、生成 ETL 任务配置、校验配置,以及在执行失败后协助定位和修复问题等工作。对团队而言,真正困难的并不是让模型“生成一份配置”,而是避免选到一个只会生成看似正确、却无法在生产环境中稳定运行的模型。
SeaTunnel2 个月前
大数据·开发语言·python·程序员·代码·seatunnel
从 Python Script 地狱到标准化数据集成框架几乎所有企业的数据平台都有着相似的成长轨迹。项目初期,数据接入需求并不复杂。业务系统需要将 MySQL 数据同步到数据仓库,运营部门希望定时调用第三方 REST API 获取营销数据,日志系统需要消费 Kafka 中的实时消息,再写入 ClickHouse 或 Elasticsearch。对于这些需求而言,Python 凭借丰富的生态和较低的开发成本,几乎成为所有数据工程师的首选语言。几十行甚至几百行代码,就足以完成一次数据同步任务。
ApacheSeaTunnel2 个月前
大数据·数据库·ai·开源·数据集成·seatunnel·技术分享·数据同步
一套替代四套!同程旅行用 Apache SeaTunnel 搭建多模态统一数据通道同程旅行数据通道服务历经多年演进,形成了数据搬运、数据集成、Sqoop、SeaTunnel 四套并存的格局,功能重叠、引擎割裂、整体运维成本居高不下。
ApacheSeaTunnel2 个月前
大数据·开源·数据集成·seatunnel·技术分享·数据同步·airbyte·fivetran
为什么 Data Ingestion 还没有被 Fivetran/Airbyte 完全解决?在 Reddit 的数据工程社区(r/dataengineering)里,关于数据接入(Data Ingestion)的选型讨论永远充满着火药味。当团队需要在生产环境落地一套现代数据栈(MDS)时,最常见的纠结就是:“选 Fivetran 还是 Airbyte?或者还有什么开源的硬核替代方案?”
ApacheSeaTunnel3 个月前
大数据·开源·数据集成·seatunnel·技术分享·数据同步
当多表数据涌入,Apache SeaTunnel 如何巧妙化解主键冲突?点亮Star!https://github.com/apache/seatunnel来源 | 数仓生态圈
ApacheSeaTunnel3 个月前
大数据·mysql·开源·doris·数据集成·seatunnel·数据同步
实战演示 | 基于 Apache SeaTunnel 与 Apache DolphinScheduler 实现 MySQL 到 Doris 离线定时增量同步在企业数据平台建设过程中,数据同步是一项非常常见的需求。随着业务规模不断增长,全量同步带来的数据库压力和资源消耗也会越来越大。因此,在实际生产环境中,增量同步往往是更常见的选择。
SeaTunnel3 个月前
大数据·数据库·开源·apache·seatunnel
87 个 PR 迭代复盘|Apache SeaTunnel 5 月版本重点更新解读社区小伙伴们,Apache SeaTunnel 5 月份月报姗姗来迟啦!据社区统计,2026 年 5 月 apache/seatunnel 仓库累计合入 87 个 PR。本月核心迭代方向为持续完善 Connector-V2,补齐各类细节,做到生产环境可用;深耕 Zeta 引擎,优化高可用、故障恢复、监控和测试;同时强化 CI 安全与回归测试,保障主干分支迭代效率。