技术栈
hadoop
ha_lydms
13 小时前
大数据
·
hadoop
·
阿里云
·
spark
·
数据处理
·
dataworks
·
maxcompute
Datetime Functions(日期时间函数)
原文:Apache Spark SQL — Datetime Functions本分类按照 Spark SQL 官方目录函数顺序整理,共 82 个函数。
ha_lydms
15 小时前
大数据
·
hadoop
·
阿里云
·
spark
·
数据处理
·
dataworks
·
maxcompute
Bitwise Functions(位运算函数)
原文:Apache Spark SQL — Bitwise Functions本分类按照 Spark SQL 官方目录函数顺序整理,共 13 个函数。
ha_lydms
19 小时前
大数据
·
hadoop
·
阿里云
·
spark
·
数据处理
·
dataworks
·
maxcompute
St Functions(空间函数)
原文:Apache Spark SQL — St Functions本分类按照 Spark SQL 官方目录函数顺序整理,共 5 个函数。
ha_lydms
21 小时前
大数据
·
hadoop
·
阿里云
·
spark
·
数据处理
·
dataworks
·
maxcompute
Table Functions(表函数)
原文:Apache Spark SQL — Table Functions本分类按照 Spark SQL 官方目录函数顺序整理,共 2 个函数。
ha_lydms
1 天前
大数据
·
hadoop
·
spark
·
json
·
数据处理
·
dataworks
·
maxcompute
Json Functions(JSON 函数)
原文:Apache Spark SQL — Json Functions本分类按照 Spark SQL 官方目录函数顺序整理,共 7 个函数。
171320330计算机毕设编程
1 天前
java
·
大数据
·
hadoop
·
python
·
算法
·
随机森林
·
线性回归
计算机毕业设计 基于Hadoop的新能源汽车发展前景分析 LW PPT
专注于大学生项目实战开发,讲解,毕业答疑辅导,✌绿泡171320330。技术范围:SpringBoot、Vue、SSM、HLMT、小程序、Jsp、PHP、Nodejs、Python、YOLO、爬虫、数据可视化、安卓app、大数据、物联网、机器学习,单片机、plc等设计与开发。
ha_lydms
1 天前
大数据
·
hadoop
·
阿里云
·
spark
·
数据处理
·
dataworks
·
maxcompute
Conditional Functions(条件函数)
原文:Apache Spark SQL — Conditional Functions本分类按照 Spark SQL 官方目录函数顺序整理,共 12 个函数。
程序员大阳
1 天前
大数据
·
hadoop
·
分布式
·
集群
·
配置
·
角色
·
逻辑
副队长大数据教程(7)--Hadoop 集群角色配置逻辑详解
看了上一篇的实操,大家想必有一个疑问,集群某个节点作为什么角色运行,到底是怎么设定的。我们用一个实例,来解释下,如下规划:
ha_lydms
1 天前
大数据
·
hadoop
·
阿里云
·
spark
·
数据处理
·
dataworks
·
maxcompute
String Functions(字符串函数)
原文:Apache Spark SQL — String Functions本分类按照 Spark SQL 官方目录函数顺序整理,共 74 个函数。
泡干脆面就番茄
2 天前
大数据
·
数据仓库
·
hive
·
hadoop
Hive分区表与分桶表:大数据查询提速的第一把钥匙
这是《Hive 从入门到实战》系列第 4 篇。本篇是面试 + 实战双料重点:分区表、分桶表,以及面试必考的"分区 vs 分桶"。
chde2Wang
2 天前
java
·
大数据
·
hadoop
hadoop部署错误-namenode address dfs.namenode.servicerpc-address not configured
检查:$HADOOP_HOME/etc/hadoop/core-site.xml文件配置。尤其是fs.default.name这组属性。
泡干脆面就番茄
3 天前
大数据
·
数据仓库
·
hive
·
hadoop
Hive-DML:Load-Insert-Export-Import四种数据进出方式
Hive数据进出有四种方式:LOAD DATA(本地复制、HDFS剪切)用于批量加载文件;INSERT SELECT实现表间结果集迁移,支持追加或覆盖;INSERT VALUES可手动插入单行,但生产慎用;INSERT DIRECTORY将查询结果导出至本地或HDFS文件系统;EXPORT/IMPORT则支持整表连同元数据的跨集群迁移。其中,LOAD最高效,INSERT适用于加工逻辑,EXPORT/IMPORT适合表级迁移。核心原则:能用LOAD就不用INSERT,数据操作以文件和批量为主。
棣廷
4 天前
数据仓库
·
hive
·
hadoop
初识Hive(1)
在上一篇博客中,我们学习了Hadoop的三大核心组件:HDFS、MapReduce和YARN。HDFS解决了数据存不下的问题,MapReduce解决了数据算不动的问题。
Francek Chen
4 天前
大数据
·
数据仓库
·
hive
·
hadoop
·
数据分析
【大数据处理与分析】数据仓库Hive:07 Hive HA基本原理
【作者主页】Francek Chen 【专栏介绍】 ⌈ ⌈ ⌈大数据技术原理与应用 ⌋ ⌋ ⌋专栏系统介绍大数据的相关知识,分为大数据基础篇、大数据存储与管理篇、大数据处理与分析篇、大数据应用篇。内容包含大数据概述、大数据处理架构Hadoop、分布式文件系统HDFS、分布式数据库HBase、NoSQL数据库、云数据库、MapReduce、Hadoop再探讨、数据仓库Hive、Spark、流计算、Flink、图计算、数据可视化,以及大数据在互联网领域、生物医学领域的应用和大数据的其他应用。 【GitCode
棣廷
4 天前
大数据
·
hadoop
·
分布式
初识Hadoop
在之前的博客中,我们学习了Python数据分析、机器学习和深度学习。这些技术处理的数据量通常在GB级别,一台普通电脑就能胜任。但现实世界中,很多场景的数据量远超单机处理能力:
磁场转动100万匹
4 天前
数据仓库
·
hive
·
hadoop
数仓分层到底在分什么:从 DWD 到 ADS,最后落到 ClickHouse
上一篇我们解决了「数据怎么进来」——用 DataX 把业务库的刷卡主数据和用户信息表搬到了 Hive 的 ODS 层。
源图客
5 天前
hadoop
YARN介绍与实战
知识目标能说出 YARN 的定位与作用,理解 Hadoop 1.0 与 2.0 在体系结构上的区别;能准确描述 YARN 四大核心组件(RM、NM、AM、Container)的职责及协作关系;
buligbulig
5 天前
大数据
·
hadoop
·
分布式
Hadoop正在失败?不,它正在壮大
有人认为Hadoop正在失败,但Hortonworks总经理Vamsi K. Chemitiganti并不认同。他认为达尔文式的开源生态系统正确保Hadoop成为稳固成熟的技术平台。 为何Hadoop在发展 数字架构让企业能与全球客户持续在线互动,提供跨渠道个性化服务。银行业已涵盖移动App、电子银行、呼叫中心等四到五种服务方式。大数据技术正是为克服RDBMS和EDW的局限而生,应对数据体量扩大与种类膨胀的挑战。Hadoop虽有限制,但此前方法缺陷更多。它是唯一能将挑战化为商业机会的方式。开源社区本质是达
Sayai
6 天前
运维
·
hadoop
·
nginx
·
安全
·
网络安全
Hadoop 集群安全加固实战:YARN 未授权访问漏洞修复,firewalld 白名单 + Nginx 反向代理 Basic Auth 全流程
一次漏扫报告引出的 Hadoop 集群整体加固:YARN RPC 未授权访问(高危,可远程执行任意代码)、HDFS NameNode 页面与 YARN Application 页面裸奔。本文给出一条不改 Hadoop 本身、不引入 Kerberos 的落地路径——firewalld 白名单隔离 + Nginx 反向代理加 Basic Auth,附带完整的防火墙命令、nginx.conf 配置讲解和五个真实踩坑。
IT小小猪
6 天前
hadoop
·
分布式
·
eclipse
# Hadoop 3.3.6 完全分布式集群部署知识库
适用环境:Rocky Linux 9.5 / 三节点 / 2C·2G 虚拟机 / VMware VMnet2 host-only 部署日期:2026-10-10 | 部署方式:从干净快照克隆 + 脚本化部署(非手抄教材)