Big Data 平障录

Hive

Hive 生成带压缩的格式,需要如此设置

复制代码
SET parquet.compression=SNAPPY;
yarn.scheduler.fair.assignmultiple

相关jira:https://issues.apache.org/jira/browse/YARN-5035

yarn.scheduler.fair.assignmultiple是YARN Fair Scheduler的一个配置参数.

复制代码
Whether to allow multiple container assignments in one heartbeat. Defaults to false. 

相关代码位置:

org.apache.hadoop.yarn.server.resourcemanager.scheduler.fair.FairScheduler

复制代码
assignMultiple = this.conf.getAssignMultiple();

org.apache.hadoop.yarn.server.resourcemanager.scheduler.fair.FairSchedulerConfiguration

复制代码
  public boolean getAssignMultiple() {
    return getBoolean(ASSIGN_MULTIPLE, DEFAULT_ASSIGN_MULTIPLE);
  }

private static final String CONF_PREFIX =  "yarn.scheduler.fair.";

  /** Whether to assign multiple containers in one check-in. */
  public static final String  ASSIGN_MULTIPLE = CONF_PREFIX + "assignmultiple";
  protected static final boolean DEFAULT_ASSIGN_MULTIPLE = false;
相关推荐
双力臂4043 小时前
MyBatis动态SQL进阶:复杂查询与性能优化实战
java·sql·性能优化·mybatis
A__tao5 小时前
一键将 SQL 转为 Java 实体类,全面支持 MySQL / PostgreSQL / Oracle!
java·sql·mysql
A__tao6 小时前
SQL 转 Java 实体类工具
java·数据库·sql
无级程序员10 小时前
hive2服务启动报错:/tmp/hive on HDFS should be writable(不是chmod 777能解决的)
hive·hadoop·hdfs
羊小猪~~12 小时前
数据库学习笔记(十七)--触发器的使用
数据库·人工智能·后端·sql·深度学习·mysql·考研
rui锐rui12 小时前
大数据学习2:HIve
大数据·hive·学习
凌辰揽月16 小时前
Servlet学习
hive·学习·servlet
先睡18 小时前
优化MySQL查询
数据库·sql