Hive任务的并发控制,指同时运行的 container 的数量,防止先提交的任务占用全部的队列资源,导致后来提交的任务无法申请到足够的资源。
Hive 任务的并发控制,和使用的引擎相关。
MapReduce(MR)引擎
-
Map 任务
mr 引擎使用
mapreduce.job.running.map.limit
来限制同时执行的 map 任务数量。如一个 hive 任务生成 1000 个 map 任务。当mapreduce.job.running.map.limit
为 10 时,最多可以同时运行 10 个 map 任务。默认值为0,代表不限制同时执行的 map 任务数量。 -
Reduce 任务
mapreduce.job.running.reduce.limit
来限制同时执行的 reduce 任务数量。默认值为0,代表不限制。
Tez 引擎
TEZ 没有相关的配置。