DELETE 条件字段缺少索引导致 SuperSync 同步严重延迟

文章目录

环境

系统平台:银河麒麟 (海光)

版本:9.0.4

症状

使用 SuperSync 将 DB2 数据同步到 HGDB 时,同步任务累计延迟约 21 天。

初步分析认为同步瓶颈可能来自磁盘 I/O,但监控系统显示:

  • CPU 使用率约 5%
  • 内存使用率约 5%
  • 磁盘 I/O 利用率较低

系统整体资源使用正常,与同步延迟现象不符。

进一步查看数据库活动会话,发现仅有一个同步工具(dsg 用户)的 DELETE 语句持续执行。

复制代码
postgres: highgo-ee-cluster: dsg xxx DELETE

查看该 DELETE 进程的 I/O 使用情况:

复制代码
pidstat -d -p 2353843 1

输出如下:

复制代码
kB_rd/s     kB_wr/s    iodelay
7648        23168      5
16900       28920      9
5536        35416      4
......
2608        83448      3
4128        71756      4
71056       1696       38

可以看到:

  • DELETE 进程持续产生磁盘读写;
  • 写入速率最高约 83 MB/s;
  • iodelay 持续大于 0,说明该进程存在磁盘 I/O 等待。

进一步分析执行语句:

sql 复制代码
delete
from test_policymanagement.es_doc_pages
where pageid in (...);

发现:

  • 目标表大小约 187 GB;
  • pageid 字段未建立索引;
  • DELETE 每次执行均需要扫描大量数据定位待删除记录。

虽然 SQL 执行过程中真正等待磁盘 I/O 的时间占比不高,但由于全表扫描数据量巨大,导致单条 DELETE 执行时间长达十几分钟,最终造成同步任务持续积压,表现为同步延迟 21 天。

问题原因

目标表 test_policymanagement.es_doc_pages 数据量较大(约 187 GB),DELETE 语句的过滤字段 pageid 未建立索引,导致执行 DELETE 时发生全表扫描,SQL 执行效率极低,从而造成 SuperSync 同步任务持续积压。

解决方案

为 DELETE 条件字段 pageid 创建索引:

sql 复制代码
CREATE INDEX idx_es_doc_pages_pageid
ON test_policymanagement.es_doc_pages(pageid);

创建索引后,DELETE 语句可通过索引快速定位待删除记录,避免全表扫描,大幅降低 SQL 执行时间,SuperSync 同步效率恢复正常,同步延迟问题得到解决。

相关推荐
知行合一。。。1 小时前
RAG--03--Milvus基本用法
数据库·oracle·milvus
TDengine (老段)1 小时前
TDengine 线程模型 — 网络、调度、执行
大数据·数据库·物联网·制造·时序数据库·tdengine·涛思数据
上学的小垃圾2 小时前
01-数据库系统概述
数据库
二进制漫游记3 小时前
FastAPI项目集成 Qdrant向量数据库+阿里云Embedding完整实战(工具封装+业务调用)
数据库·python·阿里云·embedding
2501_928996223 小时前
GPT-4o换DeepSeek迁移成本多少?中科热备解析API聚合平台技术账本
前端·数据库·人工智能
泡干脆面就番茄5 小时前
MySQL_子查询_分页查询与联合查询详解
数据库·mysql
devpotato6 小时前
缓存与数据库更新顺序不一致问题
java·数据库·redis
天若有情6736 小时前
Node+MySQL小型全栈笔记项目实战课程分享
数据库·笔记·mysql
wxwx_bscxy3227 小时前
基于springboot宠物领养系统的设计与实现
数据库·spring boot·后端·spring·宠物
九月要晚安7 小时前
达梦DW与AFC对比
数据库