FastCDC 项目启动玩玩 😁😁😁😁

我一直想写个轻量级,但是又高性能,能包含各种国外和国产数据库的迁移和同步工具,然后开源。

无奈以前一直没时间,所以一直没干。

但是现在有时间了,昨天就开始干了。

实现的第一个功能是,Oracle 数据库-> Pg数据库的全量数据迁移,今天已经把表结构迁移、数据全量迁移、读和写的并发模型功能都写好了,算是小阶段完成,测试了一下,还可以。

昨天晚上遇到一个技术问题,搞不定,请教落总。 他还是有两把刷子的,很快给我解答了,我很满意。

然后今天从上午写到下午,一直报错,都快搞死我了。

但是最终还是搞到刚才,问了大量的 ai各种参差不齐的解答下,终于把这个分片+并发读+管道+并发写的逻辑搞掂了。

一个人搞,是真的难。。。。

最后还跑了迁移一张表数据,测试一把不同架构cpu性能。

arm m4 pro + macos 运行fastcdc开10 个并发 迁移 2900w数据大表,4 分 30 秒。

x86 AMD 7950x + 虚拟机 centos 7.5 运行fastcdc开10 个并发 迁移 2900w数据大表,1分 41 秒。

无论什么各种厂商来优化arm架构,无论评测,营销啊 什么吹得多厉害,arm就是垃圾,单核性能不够,堆核来凑,垃圾。

还是x86比较猛,跑生产只认x86,其他架构都是耍流氓。

明天继续迭代Oracle 数据库-> Pg数据库的全量数据迁移功能,后续把索引,序列,啥的这些对象都加上。。。。。

相关推荐
jnrjian11 小时前
\dx Postgres 查看EXTENSION
postgresql
Lihua奏12 小时前
高可用与扩展:一台 PostgreSQL 不够用之后怎么办?
postgresql
鸽芷咕16 小时前
MySQL/PostgreSQL 迁移金仓 KES:LEFT JOIN 丢数据排查与避坑指南
数据库·mysql·postgresql
岳麓丹枫0011 天前
pgbouncer笔记 3
postgresql
Java面试题总结1 天前
PostgreSQL 数据库技术详解
数据库·postgresql
Lihua奏2 天前
PostgreSQL:数据还在内存里,为什么断电也不怕?
postgresql
周杰伦的稻香2 天前
PostgreSQL中的METHOD(认证方法)
数据库·postgresql
Zhu7583 天前
对docker环境的postgresql数据库做快速初始化
数据库·docker·postgresql
l1t3 天前
测试用rust重写的postgresql: pgrust
开发语言·postgresql·rust