【大数据面试题】012 谈谈 Hive 性能优化常用的方法

一步一个脚印,一天一道面试题

  • 数据分区和分桶:合适的分区和分桶能减少数据量的输入

  • 合适的数据格式:Parquet,ORC 是可以减少 I/O ,网络传输速率等的

  • 列裁剪:一般不要使用 SELECT *,只获取真正需要的列

  • 文件合并 :使用 INSERT OVERWRITE 可以减少小文件数量,提高效率

  • 数据过滤 :使用 WHERE 过滤,简单却有效

  • 并行度设置:合理的并行度设置可以更好的利用集群性能,否则可能会"有力使不出"或"杀鸡用牛刀"的情况

  • 数据本地化和 JOIN 化:尽量在本地节点做更多的操作,减少网络传输等开销,比如使用 mapjoin;

  • 定期收集统计信息ANALYZE TABLE 收集表的信息,可以让优化器更可能做出更好的查询计划;

相关推荐
STLearner17 小时前
WWW 2026 | 时空数据(Spatial Temporal)论文总结(交通预测,人群移动,轨迹表示,信控等)
大数据·论文阅读·人工智能·深度学习·机器学习·数据挖掘·自动驾驶
摸鱼仙人~18 小时前
从Demo到可用:TodoWrite 幻觉问题优化指南
大数据·人工智能
唐可盐18 小时前
【数据治理实践】第 15 期:数据质量提升实战——从“问题发现”走向“根因根治”
大数据·人工智能·数据治理·数字化转型·数据资产·数据资产入表
切糕师学AI18 小时前
Elasticsearch 列式存储详解:Doc Values 的原理与实践
大数据·elasticsearch·搜索引擎·列式存储
Crazy CodeCrafter19 小时前
小城消费降级,服装实体要跟风转线上吗?
大数据·人工智能·自动化·开源软件
财经资讯数据_灵砚智能19 小时前
基于全球经济类多源新闻的NLP情感分析与数据可视化(日间)2026年4月4日
大数据·人工智能·python·信息可视化·自然语言处理·ai编程
色空大师19 小时前
【ElasticSearch(ES)】安装及介绍
大数据·elasticsearch·搜索引擎·搜索
第二只羽毛19 小时前
C++高性能内存池6(面试题)
大数据·开发语言·c++
源码之家20 小时前
计算机毕业设计:Python新能源汽车数据分析与个性化推荐系统 Django框架 snowNLP 协同过滤推荐算法 requests爬虫 可视化(建议收藏)✅
大数据·python·机器学习·数据分析·django·汽车·课程设计
橘子编程20 小时前
Apache Hadoop知识全解析
大数据·hive·hadoop·apache