FastCDC 项目启动玩玩 😁😁😁😁

我一直想写个轻量级,但是又高性能,能包含各种国外和国产数据库的迁移和同步工具,然后开源。

无奈以前一直没时间,所以一直没干。

但是现在有时间了,昨天就开始干了。

实现的第一个功能是,Oracle 数据库-> Pg数据库的全量数据迁移,今天已经把表结构迁移、数据全量迁移、读和写的并发模型功能都写好了,算是小阶段完成,测试了一下,还可以。

昨天晚上遇到一个技术问题,搞不定,请教落总。 他还是有两把刷子的,很快给我解答了,我很满意。

然后今天从上午写到下午,一直报错,都快搞死我了。

但是最终还是搞到刚才,问了大量的 ai各种参差不齐的解答下,终于把这个分片+并发读+管道+并发写的逻辑搞掂了。

一个人搞,是真的难。。。。

最后还跑了迁移一张表数据,测试一把不同架构cpu性能。

arm m4 pro + macos 运行fastcdc开10 个并发 迁移 2900w数据大表,4 分 30 秒。

x86 AMD 7950x + 虚拟机 centos 7.5 运行fastcdc开10 个并发 迁移 2900w数据大表,1分 41 秒。

无论什么各种厂商来优化arm架构,无论评测,营销啊 什么吹得多厉害,arm就是垃圾,单核性能不够,堆核来凑,垃圾。

还是x86比较猛,跑生产只认x86,其他架构都是耍流氓。

明天继续迭代Oracle 数据库-> Pg数据库的全量数据迁移功能,后续把索引,序列,啥的这些对象都加上。。。。。

相关推荐
IvorySQL10 小时前
PostgreSQL 日报|逻辑解码 DDL 子事务缺陷修复(10 月 12 日)
数据库·postgresql
瀚高PG实验室11 小时前
瀚高数据库序列介绍、使用及值不连续、重复写入等现象处理
数据库·postgresql·瀚高数据库
这个DBA有点耶12 小时前
PostgreSQL HOT更新:频繁更新表的索引膨胀根因与fillfactor调优
数据库·sql·postgresql
ss27315 小时前
PG实战笔记 | 04 PostgreSQL市场地位与实际案例
数据库·postgresql
码匠许师傅17 小时前
【C++三方组件】libpqxx:PostgreSQL 的 C++ 客户端
开发语言·c++·postgresql
瀚高PG实验室17 小时前
业务无法通过hgproxy访问数据库
数据库·postgresql·瀚高数据库
snhna1 天前
向量数据库深度实战:从 HNSW 到 pgvector、Milvus 选型与 RAG 落地
数据库·人工智能·python·postgresql·milvus
周小董1 天前
[1369]Windows上安装PostgreSQL
数据库·windows·postgresql
ss2732 天前
03 -AI时代首先数据库-PostgreSQL发展历史:从伯克利到AI数据库
postgresql
东风微鸣2 天前
精简 Ubuntu Linux 固件包:每个 N100 节点省下约 450 MB
linux·ubuntu·postgresql