clickhouse引擎

引擎分类

官网把CH的引擎分成4大类

MergeTree

MergeTree引擎:一个带有自动整理、压缩、打标签功能的智能保险柜,适合存放最重要、最庞大的核心数据。

这类引擎数据实际存储在 ClickHouse 本地磁盘,用于持久化分析。

王者引擎。支持分区、主键索引、数据副本(Replicated)、TTL(数据生命周期)。生产环境 99% 的核心表都用它。

Log

Log 引擎:一个普通的纸箱,东西可以快速扔进去,但找起来很麻烦,也没有整理功能。适合存放临时、不重要的小批量数据。

轻量级日志引擎。数据追加写入,不支持索引、删除和更新。适合临时存储或小表(< 100万行)。

Memory

内存表。数据只存在内存中,服务重启即丢失。适合做高速临时计算。

integration

这类引擎本身通常不存数据,而是作为代理(Proxy),将查询转发给外部系统。

Kafka :

消息队列连接器。直接消费 Kafka Topic 数据。必须配合物化视图(Materialized View)​ 将数据写入 MergeTree 表才能持久化。

Redis​:

缓存映射。将 Redis 的 Key-Value 结构映射为表,适合做高速维度表查询。

如果有主键,主键一定要在排序中

  1. 核心原因:主键的本质是"稀疏索引"
    在 ClickHouse 的 MergeTree引擎中:
    ORDER BY 决定了数据在磁盘上的物理存储顺序(就像字典按拼音排序)。
    PRIMARY KEY 是为了建立跳数索引(Sparse Index)。它不会为每一行数据都建索引,而是每隔一段(默认 8192 行)取一行的值作为索引键。

如果你想通过主键快速找到数据,那么主键值必须是有序的。如果主键不在排序字段里,数据在磁盘上是乱序的,索引也就失去了快速定位的意义。

  1. 去重机制的要求

    ClickHouse 的 ReplacingMergeTree引擎有一个特性:同一个排序键(ORDER BY 字段)的数据会被合并,保留最后插入的版本。

    排序键是数据合并的最小单位。

    如果你希望根据某个字段(比如 id)去重,那么 id必须是排序键的一部分。否则 ClickHouse 不知道该把哪几行归为一组进行去重。

  2. 语法规则(硬性限制)

    这是最直观的一点:在 ClickHouse 中,主键(PRIMARY KEY)必须是排序键(ORDER BY)的前缀。

反列子

正确的sql

sql 复制代码
CREATE TABLE learning.t_user
(
id UInt8,
name String,
city String,
age UInt8
)
ENGINE = MergeTree()
PARTITION BY city
primary key(id)
ORDER BY (id, age);

不去重

建表完成后我们执行2次下面的语句

sql 复制代码
insert into learning.t_user 
values (1,'lufu','east',18),
 (2,'zuolong','east',19),
 (3,'wusuopu','west',17);

可以看到虽然有主键,但是不会根据主键去重

原因也很好理解,CH 是以文件块的方式append的,无法感知其他块的数据

相关推荐
hez20102 天前
在 .NET 上构建超大托管数组
c#·.net·.net core·gc·clr
雨落倾城夏未凉8 天前
第四章c#方法-参数数组和可选参数(16)
后端·c#
唐青枫9 天前
线程不是越多越快:C#.NET Thread 生命周期、同步与后台工作线程实战
c#·.net
唐青枫10 天前
别只会反射:C#.NET Emit 动态生成代码实战详解
c#·.net
咕白m62510 天前
.NET 环境下 Word 超链接批量提取方案
c#·.net
用户917215619021110 天前
C# 通信协议增量解析:用状态机处理半包和粘包
c#
小码编匠11 天前
C# 工控上位机必备:数据转换工具类与十个核心模块
后端·c#·.net
唐青枫13 天前
别再乱用 StartNew:C#.NET TaskFactory 任务调度实战详解
c#·.net
Artech13 天前
[MAF预定义的AIContextProvider-03]ChatHistoryMemoryProvider——赋予Agent从经验中学习的能力
ai·c#·agent·memory·maf
Scout-leaf15 天前
C#摸鱼实录——IoC与DI案例详解
c#