ClickHouse之更新表(ReplicatedReplacingMergeTree)

CK没有更新的方法,但是有一种引擎可以支持去重,它就是ReplicatedReplacingMergeTree;

一种是手工执行optimize table;

另一种是table后面加final关键字;

如何设置去重?

需要指定order key;注意不是primary key;

但是,如果同一order key散落到了不同的分区、不同的分片中,去重会失效;

换言之,只能自动合并同一分区,同一分片的相同ID;

同一个order key要保留哪个?

在本地表最后一个参数上加上一个时间戳;CK会自动取最新的;

CREATE TABLE default.test

(
ID String COMMENT '主键编号',
NAME Nullable(String) COMMENT '名称',

CRT_TIMEDateTime COMMENT '创建时间', TIMESTAMP` Int64

)

ENGINE = ReplicatedReplacingMergeTree('/clickhouse/tables/01/test/',

'replica101',

TIMESTAMP)

PARTITION BY toMonth(CRT_TIME)

ORDER BY TIMESTAMP

SETTINGS index_granularity = 8192;

属性介绍:

ENGINE:表引擎,最常用的是MergeTree,或者说MergeTree家族的各个引擎,当然也可以选择其他引擎。但是,只有MergeTree系列的表引擎才支持主键索引,数据分区,数据副本,数据采样这样的特性,只有此系列的表引擎才支持alter操作。

PARTITION BY:指定分区键,主要根据你的业务场景和数据量大小,可以按年、按月、按天或者其他时间间隔分区,也可以按照哈希去分区。当然,若不声明分区键,则clickhouse会生成一个名为all的分区

ORDER BY:排序字段,clickhouse表会根据排序字段建索引,方便快速查找。如果没有指定主键,排序字段就是主键

PRIMARY KEY:指定主键,它必须是分区键的前缀,或者等于分区键

SETTINGS:配置项,可以把一些配置在这里设置,多个逗号分割

index_granularity:默认8192,表示索引的粒度,即MergeTree的索引在默认情况下,每间隔8192行才生成一个索引。通常不需要修改此参数,不设置就是8192。

old_parts_lifetime:已合并的分区块,多久后删除,默认8分钟

相关推荐
智购科技智能售货柜7 小时前
2026自动售货机整机可靠性测试:从高低温交变到EMC电磁兼容的认证工程实践~YH
运维·服务器·数据库·人工智能·物联网
ltl7 小时前
RocksDB 架构演进:相对 LevelDB 的 diff 地图
数据库
ltl7 小时前
存储读取性能优化:索引、Bloom Filter 与读放大
数据库
xier_ran11 小时前
【infra之路】GPU 存储层次总结:L1 / L2 / HBM
java·网络·数据库
山甫aa12 小时前
Javaweb---MyBatis增删改查
java·数据库·后端·mybatis·springboot
其实防守也摸鱼13 小时前
接口审计:从原理到实践的万字深度指南
数据库·安全·自动化·github·copilot
@insist12313 小时前
系统集成项目管理工程师-信息和文档管理
网络·数据库·软考·系统集成项目管理工程师·软考中项·软件水平考试
残 风14 小时前
PostgreSQL 存储机制详解
数据库·postgresql·开源·数据库开发
JacksonMx15 小时前
Java CompletableFuture 异步编程实战:从入门到架构师避坑指南
linux·数据库·python