FastCDC 项目启动玩玩 😁😁😁😁

我一直想写个轻量级,但是又高性能,能包含各种国外和国产数据库的迁移和同步工具,然后开源。

无奈以前一直没时间,所以一直没干。

但是现在有时间了,昨天就开始干了。

实现的第一个功能是,Oracle 数据库-> Pg数据库的全量数据迁移,今天已经把表结构迁移、数据全量迁移、读和写的并发模型功能都写好了,算是小阶段完成,测试了一下,还可以。

昨天晚上遇到一个技术问题,搞不定,请教落总。 他还是有两把刷子的,很快给我解答了,我很满意。

然后今天从上午写到下午,一直报错,都快搞死我了。

但是最终还是搞到刚才,问了大量的 ai各种参差不齐的解答下,终于把这个分片+并发读+管道+并发写的逻辑搞掂了。

一个人搞,是真的难。。。。

最后还跑了迁移一张表数据,测试一把不同架构cpu性能。

arm m4 pro + macos 运行fastcdc开10 个并发 迁移 2900w数据大表,4 分 30 秒。

x86 AMD 7950x + 虚拟机 centos 7.5 运行fastcdc开10 个并发 迁移 2900w数据大表,1分 41 秒。

无论什么各种厂商来优化arm架构,无论评测,营销啊 什么吹得多厉害,arm就是垃圾,单核性能不够,堆核来凑,垃圾。

还是x86比较猛,跑生产只认x86,其他架构都是耍流氓。

明天继续迭代Oracle 数据库-> Pg数据库的全量数据迁移功能,后续把索引,序列,啥的这些对象都加上。。。。。

相关推荐
best_virtuoso14 小时前
PostgreSQL CTE与临时表的概念与区别
数据库·postgresql
海边夕阳20061 天前
PostgreSQL性能调优:解决表膨胀、索引碎片和无效索引问题
数据库·经验分享·postgresql·性能优化
IvorySQL1 天前
使用 PostgreSQL 时间点恢复(Point-In-Time Recovery)的多种数据恢复技术
数据库·postgresql
JohnYan3 天前
工作笔记 - 记一次PG数据导入和清理
后端·postgresql
IT 小阿姨(数据库)3 天前
PostgreSQL pg_stat_bgwriter 视图各个字段详解
linux·数据库·sql·postgresql·centos
小至尖尖4 天前
fastdbchkrep项目(数据库自动生成巡检报告) open source
sql·sql优化
岳麓丹枫0014 天前
pg_stat 视图介绍
数据库·postgresql
zhangyifang_0095 天前
PostgreSQL 的表继承与分区
数据库·postgresql
摇滚侠6 天前
PostGreSQL 数据库,备份和恢复命令,使用pg_dump命令备份
postgresql
RestCloud7 天前
OceanBase 分布式数据库的 ETL 实践:从抽取到实时分析
数据库·分布式·postgresql·oceanbase·etl·数据处理·数据同步