clickhouse在执行alter table update delete等命令后数据没有更新

clickhouse之删除数据或更新数据无效的解决思路

  • 例如:
sql 复制代码
ALTER TABLE 表名 DELETE WHERE 条件
ALTER TABLE 表名 UPDATE column1 = expr1 [, ...] WHERE filter_expr
  • 分析原因:

我们都知道ClickHouse内核中的MergeTree存储一旦生成一个Data Part,这个Data Part就不可再更改了。所以从MergeTree存储内核层面,ClickHouse就不擅长做数据更新删除操作。但是绝大部分用户场景中,难免会出现需要手动订正、修复数据的场景。所以ClickHouse为用户设计了一套离线异步机制来支持低频的Mutation(改、删)操作。我们所说的Mutation也是异步的操作,是Clickhouse中的工作线程池来完成。

  • 查询命令是否执行
    对于Clickhouse执行删除语句后查询数据仍旧存在,等待数分钟后依然存在的话,我们需要先查询system.mutations表,查询未执行的任务,如下:
sql 复制代码
select * from system.mutations where is_done = 0;

其中 latest_fail_reason 会注明失败的原因

线上发现有如下报错,我们通过如下命令先删除异常的mutation

sql 复制代码
kill mutation where database=数据库名称 and table=表名;

删除mutation之后,再执行提交的删除发现又执行成功了。至于之前的为什么没执行成功,也没有去探究,只是当时发现线上不少mutations被卡住,未执行成功。

  • 总结:

对于mutations执行失败的话,先去查询system.mutations的任务,查看is_done=0的数据,并且看下latest_fail_reason的原因。如果发现问题不是sql的原因,则删除mutations再尝试执行删除或者更新,如果是sql或者其他原因,查询找到原因解决再执行删除或者更新。

参考源链接:https://cloud.tencent.com/developer/article/1987022

相关推荐
RestCloud1 小时前
SQL Server到Hive:批处理ETL性能提升30%的实战经验
数据库·api
RestCloud1 小时前
为什么说零代码 ETL 是未来趋势?
数据库·api
ClouGence3 小时前
CloudCanal + Paimon + SelectDB 从 0 到 1 构建实时湖仓
数据库
DemonAvenger10 小时前
NoSQL与MySQL混合架构设计:从入门到实战的最佳实践
数据库·mysql·性能优化
AAA修煤气灶刘哥1 天前
后端人速藏!数据库PD建模避坑指南
数据库·后端·mysql
RestCloud1 天前
揭秘 CDC 技术:让数据库同步快人一步
数据库·api
得物技术1 天前
MySQL单表为何别超2000万行?揭秘B+树与16KB页的生死博弈|得物技术
数据库·后端·mysql
可涵不会debug1 天前
【IoTDB】时序数据库选型指南:工业大数据场景下的技术突围
数据库·时序数据库
ByteBlossom1 天前
MySQL 面试场景题之如何处理 BLOB 和CLOB 数据类型?
数据库·mysql·面试
麦兜*1 天前
MongoDB Atlas 云数据库实战:从零搭建全球多节点集群
java·数据库·spring boot·mongodb·spring·spring cloud