FastCDC 项目启动玩玩 😁😁😁😁

我一直想写个轻量级,但是又高性能,能包含各种国外和国产数据库的迁移和同步工具,然后开源。

无奈以前一直没时间,所以一直没干。

但是现在有时间了,昨天就开始干了。

实现的第一个功能是,Oracle 数据库-> Pg数据库的全量数据迁移,今天已经把表结构迁移、数据全量迁移、读和写的并发模型功能都写好了,算是小阶段完成,测试了一下,还可以。

昨天晚上遇到一个技术问题,搞不定,请教落总。 他还是有两把刷子的,很快给我解答了,我很满意。

然后今天从上午写到下午,一直报错,都快搞死我了。

但是最终还是搞到刚才,问了大量的 ai各种参差不齐的解答下,终于把这个分片+并发读+管道+并发写的逻辑搞掂了。

一个人搞,是真的难。。。。

最后还跑了迁移一张表数据,测试一把不同架构cpu性能。

arm m4 pro + macos 运行fastcdc开10 个并发 迁移 2900w数据大表,4 分 30 秒。

x86 AMD 7950x + 虚拟机 centos 7.5 运行fastcdc开10 个并发 迁移 2900w数据大表,1分 41 秒。

无论什么各种厂商来优化arm架构,无论评测,营销啊 什么吹得多厉害,arm就是垃圾,单核性能不够,堆核来凑,垃圾。

还是x86比较猛,跑生产只认x86,其他架构都是耍流氓。

明天继续迭代Oracle 数据库-> Pg数据库的全量数据迁移功能,后续把索引,序列,啥的这些对象都加上。。。。。

相关推荐
mini小新20 小时前
PostgreSQL如何进行跨服务器迁移数据
服务器·数据库·postgresql·数据迁移
OK_boom2 天前
npgsql/dapper/postgresql的时区问题
数据库·postgresql
ladymorgana2 天前
【数据库】PostgreSQL 与 MySQL 全方位对比
数据库·mysql·postgresql
IT小辉同学2 天前
PostgreSQL 与 MySQL 获取字段注释并转换为驼峰命名教程
数据库·mysql·postgresql
有想法的py工程师2 天前
PostgreSQL 查询库中所有表占用磁盘大小、表大小
数据库·postgresql
九皇叔叔3 天前
【9】PostgreSQL 之 vacuum 死元组清理
数据库·postgresql
鼠鼠我捏,要死了捏5 天前
PostgreSQL性能优化实践指南:从原理到实战
postgresql·performance·tuning
云游5 天前
利用外部Postgresql及zookeeper,启动Apache Dolphinscheduler3.1.9
分布式·postgresql·zookeeper·apache·工作流任务调度