hadoop

ruxshui5 小时前
大数据·运维·hadoop
Hadoop 生产运维实战手册说明: 生产环境推荐使用 --daemon 细粒度管理单进程,避免一次性启停全部组件导致故障面扩大。例子图片(plaintext):
泡干脆面就番茄5 小时前
大数据·数据仓库·hive·hadoop
Hive窗口函数:从原理到三大面试题这是《Hive 从入门到实战》系列第 7 篇,也是含金量最高的一篇:窗口函数 + 行列转换 + 连续登录 + TopN,全是大厂 SQL 面试高频题。
程序员梅雨5 小时前
hive·hadoop·面试
Hive面试总结一条HQL进来,第一步,先通过SQL Parser,把SQL字符串转成抽象语法树,同时做语义分析,然后语义分析器把抽象语法树编译成查询块, 第二步,结合MeteStore里的元数据校验表存不存在,字段存不存在, 第三步,生成逻辑执行计划,然后优化器按规则做一轮重写,比如把过滤条件下推,、把用不到的列裁掉、把常量表达式先算出来, 第四步,转成物理执行计划,拆成一个个MapReduce任务,决定用几个Map几个Reduce,这时候基于代价的优化器会算一笔账,从几种Join方案里挑代价最小的。 第五步,执行,生
ha_lydms3 天前
大数据·hadoop·阿里云·spark·数据处理·dataworks·maxcompute
Datetime Functions(日期时间函数)原文:Apache Spark SQL — Datetime Functions本分类按照 Spark SQL 官方目录函数顺序整理,共 82 个函数。
ha_lydms3 天前
大数据·hadoop·阿里云·spark·数据处理·dataworks·maxcompute
Bitwise Functions(位运算函数)原文:Apache Spark SQL — Bitwise Functions本分类按照 Spark SQL 官方目录函数顺序整理,共 13 个函数。
ha_lydms3 天前
大数据·hadoop·阿里云·spark·数据处理·dataworks·maxcompute
St Functions(空间函数)原文:Apache Spark SQL — St Functions本分类按照 Spark SQL 官方目录函数顺序整理,共 5 个函数。
ha_lydms3 天前
大数据·hadoop·阿里云·spark·数据处理·dataworks·maxcompute
Table Functions(表函数)原文:Apache Spark SQL — Table Functions本分类按照 Spark SQL 官方目录函数顺序整理,共 2 个函数。
ha_lydms3 天前
大数据·hadoop·spark·json·数据处理·dataworks·maxcompute
Json Functions(JSON 函数)原文:Apache Spark SQL — Json Functions本分类按照 Spark SQL 官方目录函数顺序整理,共 7 个函数。
171320330计算机毕设编程3 天前
java·大数据·hadoop·python·算法·随机森林·线性回归
计算机毕业设计 基于Hadoop的新能源汽车发展前景分析 LW PPT专注于大学生项目实战开发,讲解,毕业答疑辅导,✌绿泡171320330。技术范围:SpringBoot、Vue、SSM、HLMT、小程序、Jsp、PHP、Nodejs、Python、YOLO、爬虫、数据可视化、安卓app、大数据、物联网、机器学习,单片机、plc等设计与开发。
ha_lydms3 天前
大数据·hadoop·阿里云·spark·数据处理·dataworks·maxcompute
Conditional Functions(条件函数)原文:Apache Spark SQL — Conditional Functions本分类按照 Spark SQL 官方目录函数顺序整理,共 12 个函数。
程序员大阳3 天前
大数据·hadoop·分布式·集群·配置·角色·逻辑
副队长大数据教程(7)--Hadoop 集群角色配置逻辑详解看了上一篇的实操,大家想必有一个疑问,集群某个节点作为什么角色运行,到底是怎么设定的。我们用一个实例,来解释下,如下规划:
ha_lydms3 天前
大数据·hadoop·阿里云·spark·数据处理·dataworks·maxcompute
String Functions(字符串函数)原文:Apache Spark SQL — String Functions本分类按照 Spark SQL 官方目录函数顺序整理,共 74 个函数。
泡干脆面就番茄4 天前
大数据·数据仓库·hive·hadoop
Hive分区表与分桶表:大数据查询提速的第一把钥匙这是《Hive 从入门到实战》系列第 4 篇。本篇是面试 + 实战双料重点:分区表、分桶表,以及面试必考的"分区 vs 分桶"。
chde2Wang4 天前
java·大数据·hadoop
hadoop部署错误-namenode address dfs.namenode.servicerpc-address not configured检查:$HADOOP_HOME/etc/hadoop/core-site.xml文件配置。尤其是fs.default.name这组属性。
泡干脆面就番茄5 天前
大数据·数据仓库·hive·hadoop
Hive-DML:Load-Insert-Export-Import四种数据进出方式Hive数据进出有四种方式:LOAD DATA(本地复制、HDFS剪切)用于批量加载文件;INSERT SELECT实现表间结果集迁移,支持追加或覆盖;INSERT VALUES可手动插入单行,但生产慎用;INSERT DIRECTORY将查询结果导出至本地或HDFS文件系统;EXPORT/IMPORT则支持整表连同元数据的跨集群迁移。其中,LOAD最高效,INSERT适用于加工逻辑,EXPORT/IMPORT适合表级迁移。核心原则:能用LOAD就不用INSERT,数据操作以文件和批量为主。
棣廷6 天前
数据仓库·hive·hadoop
初识Hive(1)在上一篇博客中,我们学习了Hadoop的三大核心组件:HDFS、MapReduce和YARN。HDFS解决了数据存不下的问题,MapReduce解决了数据算不动的问题。
Francek Chen6 天前
大数据·数据仓库·hive·hadoop·数据分析
【大数据处理与分析】数据仓库Hive:07 Hive HA基本原理【作者主页】Francek Chen 【专栏介绍】 ⌈ ⌈ ⌈大数据技术原理与应用 ⌋ ⌋ ⌋专栏系统介绍大数据的相关知识,分为大数据基础篇、大数据存储与管理篇、大数据处理与分析篇、大数据应用篇。内容包含大数据概述、大数据处理架构Hadoop、分布式文件系统HDFS、分布式数据库HBase、NoSQL数据库、云数据库、MapReduce、Hadoop再探讨、数据仓库Hive、Spark、流计算、Flink、图计算、数据可视化,以及大数据在互联网领域、生物医学领域的应用和大数据的其他应用。 【GitCode
棣廷6 天前
大数据·hadoop·分布式
初识Hadoop在之前的博客中,我们学习了Python数据分析、机器学习和深度学习。这些技术处理的数据量通常在GB级别,一台普通电脑就能胜任。但现实世界中,很多场景的数据量远超单机处理能力:
磁场转动100万匹6 天前
数据仓库·hive·hadoop
数仓分层到底在分什么:从 DWD 到 ADS,最后落到 ClickHouse上一篇我们解决了「数据怎么进来」——用 DataX 把业务库的刷卡主数据和用户信息表搬到了 Hive 的 ODS 层。
源图客7 天前
hadoop
YARN介绍与实战知识目标能说出 YARN 的定位与作用,理解 Hadoop 1.0 与 2.0 在体系结构上的区别;能准确描述 YARN 四大核心组件(RM、NM、AM、Container)的职责及协作关系;