ClickHouse中JOIN算法选择逻辑以及auto选项

ClickHouse中JOIN算法选择逻辑以及auto选项

ClickHouse中的JOIN的算法有6种:

  1. Direct;
  2. Partial merge;
  3. Hash;
  4. Grace hash;
  5. Full sorting merge;
    1. Parallel hash。

Setting配置join_algorithm用于指定JOIN算法,它可以设置为多个值,例如join_algorithm='direct,hash,partial_merge'。在选择最终JOIN算法的时候是根据setting配置join_algorithm, 以及JOIN操作的Strictness、Kind和参与JOIN的右表表引擎类型共同决定。

Setting配置join_algorithm的可选值(可以组合,前面的例子已经展示了)如下所示:

  1. default
  2. auto
  3. hash
  4. partial_merge
  5. prefer_partial_merge
  6. parallel_hash
  7. direct
  8. full_sorting_merge
  9. grace_hash

JOIN算法的选择逻辑

上面已经提到join_algorithm上可以指定多个值,相当于是一个多路开关,它规定了哪些JOIN算法可以使用。而在具体JOIN语句执行时则根据具体情况(例如Strictness、Kind和右表表引擎类型)选择合适的JOIN算法。如果没有合适的JOIN算法,则会报错。选择逻辑按照优先级从高往低列举如下:

  1. 如果setting join_algorithm 包含'direct'或'default',则优先尝试Direct join。Direct join的使用条件是:

    Strictness Kind 右表引擎 JOIN关键字/条件
    ANY LEFT 键值对表引擎,如 Join engine、Dictionary engine 必须为Join表引擎的关键字 单连接条件(不带OR)
  2. 如果setting join_algorithm 包含'partial_merge'或者'prefer_partial_merge',则尝试使用Partial(sorting) merge join。Partial(sorting) merge join的使用条件是:

    Strictness Kind 右表引擎 JOIN关键字/条件
    ALL INNER LEFT RIGHT FULL - 单连接条件(不带OR)
    ANY | SEMI INNER LEFT - 连接条件(不带OR)
  3. 如果setting join_algorithm 包含'parallel_hash',则尝试使用Parallel hash join。Parallel hash join的使用条件是:

    Strictness Kind 右表引擎 JOIN关键字/条件
    除了ASOF的所有 INNER LEFT - 单连接条件(不带OR)
  4. 如果setting join_algorithm 包含'hash'或'default',或者虽然包含'parallel_hash'或'prefer_partial_merge'但是前面对应使用条件不满足,则尝试使用Hash join。Hash join的使用条件是:

    Strictness Kind 右表引擎 JOIN关键字/条件
    所有 所有 - -
  5. 如果setting join_algorithm 包含'full_sorting_merge',则尝试使用Full sorting merge join。Full sorting merge join的使用条件是:

    Strictness Kind 右表引擎 JOIN关键字/条件
    ALL | ANY INNER LEFT RIGHT FULL - 单连接条件(不带OR)
  6. 如果setting join_algorithm 包含'grace_hash',则尝试使用Grace hash join。Grace hash join的使用条件是:

    Strictness Kind 右表引擎 JOIN关键字/条件
    除了ASOF的所有 INNER LEFT RIGHT FULL 单连接条件(不带OR)
  7. 如果setting join_algorithm 包含'auto',则尝试先使用Hash join。当切换条件触发且Partial merge join的使用条件满足时切换到Partial merge join。

Auto的逻辑

join_algorithm设置为'auto'时,ClickHouse会自行(不一定算是很智能)根据内存消耗情况选择JOIN算法。

首先采用hash join,并在JOIN运算期间记录生成的哈希表的行数和所消耗的内存。当行数或者消耗内存大小达到阈值时,切换到partial merge join算法。

阈值由settings设置max_rows_in_joinmax_bytes_in_join设定。

设置join_overflow_mode

join_algorithm为'hash'时,在阈值max_rows_in_joinmax_bytes_in_join被超过时的行为取决于join_overflow_mode的设定。join_overflow_mode有两种取值:

  1. THROW

    抛异常。

  2. BREAK

    中断执行,返回部分结果。

相关推荐
lidashent几秒前
数据结构和算法——汉诺塔问题
数据结构·算法
小王努力学编程11 分钟前
动态规划学习——背包问题
开发语言·c++·学习·算法·动态规划
f狐0狸x2 小时前
【蓝桥杯每日一题】4.1
c语言·c++·算法·蓝桥杯
ん贤2 小时前
2023第十四届蓝桥杯大赛软件赛省赛C/C++ 大学 B 组(真题&题解)(C++/Java题解)
java·c语言·数据结构·c++·算法·蓝桥杯
梭七y2 小时前
【力扣hot100题】(022)反转链表
算法·leetcode·链表
威视锐科技5 小时前
软件定义无线电36
网络·网络协议·算法·fpga开发·架构·信息与通信
牧歌悠悠6 小时前
【Python 算法】动态规划
python·算法·动态规划
JINX的诅咒6 小时前
CORDIC算法:三角函数的硬件加速革命——从数学原理到FPGA实现的超高效计算方案
算法·数学建模·fpga开发·架构·信号处理·硬件加速器
明天不下雨(牛客同名)7 小时前
为什么 ThreadLocalMap 的 key 是弱引用 value是强引用
java·jvm·算法
lisw057 小时前
DeepSeek原生稀疏注意力(Native Sparse Attention, NSA)算法介绍
人工智能·深度学习·算法