DELETE 条件字段缺少索引导致 SuperSync 同步严重延迟

文章目录

环境

系统平台:银河麒麟 (海光)

版本:9.0.4

症状

使用 SuperSync 将 DB2 数据同步到 HGDB 时,同步任务累计延迟约 21 天。

初步分析认为同步瓶颈可能来自磁盘 I/O,但监控系统显示:

  • CPU 使用率约 5%
  • 内存使用率约 5%
  • 磁盘 I/O 利用率较低

系统整体资源使用正常,与同步延迟现象不符。

进一步查看数据库活动会话,发现仅有一个同步工具(dsg 用户)的 DELETE 语句持续执行。

复制代码
postgres: highgo-ee-cluster: dsg xxx DELETE

查看该 DELETE 进程的 I/O 使用情况:

复制代码
pidstat -d -p 2353843 1

输出如下:

复制代码
kB_rd/s     kB_wr/s    iodelay
7648        23168      5
16900       28920      9
5536        35416      4
......
2608        83448      3
4128        71756      4
71056       1696       38

可以看到:

  • DELETE 进程持续产生磁盘读写;
  • 写入速率最高约 83 MB/s;
  • iodelay 持续大于 0,说明该进程存在磁盘 I/O 等待。

进一步分析执行语句:

sql 复制代码
delete
from test_policymanagement.es_doc_pages
where pageid in (...);

发现:

  • 目标表大小约 187 GB;
  • pageid 字段未建立索引;
  • DELETE 每次执行均需要扫描大量数据定位待删除记录。

虽然 SQL 执行过程中真正等待磁盘 I/O 的时间占比不高,但由于全表扫描数据量巨大,导致单条 DELETE 执行时间长达十几分钟,最终造成同步任务持续积压,表现为同步延迟 21 天。

问题原因

目标表 test_policymanagement.es_doc_pages 数据量较大(约 187 GB),DELETE 语句的过滤字段 pageid 未建立索引,导致执行 DELETE 时发生全表扫描,SQL 执行效率极低,从而造成 SuperSync 同步任务持续积压。

解决方案

为 DELETE 条件字段 pageid 创建索引:

sql 复制代码
CREATE INDEX idx_es_doc_pages_pageid
ON test_policymanagement.es_doc_pages(pageid);

创建索引后,DELETE 语句可通过索引快速定位待删除记录,避免全表扫描,大幅降低 SQL 执行时间,SuperSync 同步效率恢复正常,同步延迟问题得到解决。

相关推荐
这个DBA有点耶4 天前
MVCC深入:Read View、版本链与快照读——InnoDB并发控制的内核
数据库·mysql·架构
DBA_G4 天前
从地面到云霄:GBase数据库在民航三大场景的落地实践
数据库
自由能燃气设备4 天前
商用全预混低氮冷凝锅炉免费方案vs付费方案对比+选型避坑指南
大数据·数据库·人工智能
科创致远4 天前
科创致远 ESOP 系统核心效能与实战价值展示
大数据·数据库·人工智能·精益工程
geovindu4 天前
sql: Transaction & Concurrency Patterns using postgresql 18
postgresql·数据库开发·数据库架构
2601_962218614 天前
万象生鲜系统称重自动多退少补算法解决生鲜非标品痛点
大数据·数据库·人工智能·python·算法
张洛闻Eren4 天前
k8s云原生【第十课】:水平 Pod 自动扩缩容
运维·数据库·云原生·kubernetes·github
于平安4 天前
MySQL-触发器
数据库·mysql
白远山4 天前
上海24小时自助健身房解决方案实战指南与经验分享
java·数据库·架构·需求分析
Omics Pro4 天前
斯坦福Nature+Science|广义虚拟细胞基础大模型
数据库·人工智能·算法·机器学习·自然语言处理