Hive的优化:

1、开启本地模式,这样可以缩短小任务和执行时间

2、使用explain关键字来分析sql语句,然后根据执行结果来对SQL语句进行动态的调整,其中explain只有对hql也就是Hive SQL的解释,而Explain extened 不仅可以对hql语句进行解释,还有抽象表达式树的生成

3、修改hive中的fetch操作为more,减少不必要的mr操作(比如查询某字段,limit,*)

4、开启sql的严格模式这样的话可以防止写的很烂的sql语句影响了集群

5、开启JVM的重新使用,这样的话JVM就可以执行多个Tesk任务,效率就会提升

6、分区、分桶以及压缩

7、根据computeSliteSize(Math.max(minsize,Math.min(maxsize,blocksize)))=blocksize=128M的公式,调整Max的最大值来设置合理的map数量,开启小文件的合并,以及设置相对合理的reucer数

8、因为hive每次执行只会执行一个阶段,而且阶段之间都不是串行的,所以可以通过设置并行执行,这样hive可以同时执行多个stage阶段,提高了效率

9、CBO优化也就是成本优化器,开启之后会将hive执行前的执行计划自动优化,让hive的效率更高,且该功能默认开启

10、谓词下推:简单来说就是将where条件提前给执行了,然后再关联表,这样数据量就变小了

先更新这十条,其他的后续会再补上

相关推荐
卷毛迷你猪19 小时前
快速实验篇(B06)页面单跳转化率
大数据·hive·hadoop
IT毕设梦工厂19 小时前
计算机毕业设计选题推荐:基于大数据的气象站地面观测数据分析与可视化|毕业设计选题|计算机毕设|选题推荐|毕设指导|项目定制|源码|高质量项目
大数据·hadoop·信息可视化·数据挖掘·数据分析·课程设计·大数据毕设项目
卷毛迷你猪2 天前
快速实验篇(B02)DWD 生产级升级
大数据·hive·hadoop
卷毛迷你猪2 天前
快速实验篇(B03) 用户行为漏斗与转化率
大数据·hive·hadoop
卷毛迷你猪2 天前
快速实验篇(B01)用户行为日志画像与 DWD 标准化
大数据·hive·hadoop
卷毛迷你猪2 天前
快速实验篇(B04) 热门品类 Top10 与加权排名
大数据·hive·hadoop
Q26433650233 天前
【有源码】基于XGBoost的安卓应用市场数据分析与评分预测系统-面向应用市场的安卓App评分回归预测方法研究
大数据·hadoop·数据挖掘·数据分析·回归·spark·毕业设计
IT毕设梦工厂3 天前
计算机毕业设计选题推荐:基于大数据的培训机构信息分析与可视化|毕业设计选题|计算机毕设|选题推荐|毕设指导|项目定制|源码|高质量项目
大数据·hadoop·mysql·数据挖掘·数据分析·spark·课程设计
IT毕设梦工厂3 天前
计算机毕业设计选题推荐:基于大数据的杭州亚运会社交媒体互动数据可视化分析|毕业设计选题|计算机毕设|选题推荐|毕设指导|项目定制|源码|高质量项目
大数据·hadoop·信息可视化·数据挖掘·数据分析·课程设计·数据分析数据可视化
CarIise4 天前
Spring Boot整合MyBatis与文件上传:从分层架构到文件上传下载实战
数据仓库·hive·hadoop