hadoop

李昊哲小课3 小时前
大数据·hadoop·zookeeper·spark
spark4 集群安装Spark 4.1.2 要求 JDK 17 或 21,不支持 JDK 25。解压后目录名通常为 jdk-21.0.x,重命名为统一名称:
buligbulig10 小时前
大数据·hadoop·分布式
Hadoop环境安装和集群创建本文提供基于VMware安装CentOS 7及配置Hadoop伪分布式/集群的简要步骤。 一、环境准备 下载VMware并安装,CentOS 7标准版ISO可从官网获取。 主机网络配置:编辑Windows hosts文件,映射主机名与IP(如192.168.1.76 master)。 关闭防火墙:systemctl stop firewalld并禁用自启,使用Xshell连接主机(支持rz/sz传文件)。 二、JDK安装 解压JDK至指定目录,配置/etc/profile环境变量(JAVA_HOME、CL
香山上的麻雀10081 天前
数据仓库·hive·hadoop
Hive内部表(MANAGED_TABLE)的“批量删除分区”特性详解在生产环境中,我们时常遇到这样一个令人困惑的场景:明明执行的是 DROP 操作,为什么数据文件没有被删除?这不是 Bug,而是 Hive 内部表(MANAGED_TABLE) 在特定场景下的设计特性。
牛奶咖啡133 天前
hadoop·高可用hadoop集群搭建·给服务器做免密信任·修改服务器主机名称·服务器本地配置主机名与ip映射·服务器配置jdk环境·服务器安装zooker
大数据Hadoop运维应用实践——双NameNode高可用Hadoop集群架构(上)大数据Hadoop运维应用实践——Hadoop大数据平台基础与架构(hadoop伪分布式的安装部署)文章浏览阅读88次。本文主要是关于hadoop的介绍与伪分布式安装部署操作实践教程;《1》hadoop的介绍包含(hadoop是什么?有啥用?优缺点及其适用与不适用场景;还有hadoop的生态圈解析);《2》hadoop伪分布式的安装部署则包含(hadoop发行版的选型与建议、伪分布式的安装规划与准备、正式安装部署并启动)内容;最后对安装部署好的伪分布式hadoop进行了存储操作测试与分布式计算测试;是个人
jjjava2.04 天前
数据仓库·hive·hadoop
SpringMVC入门指南:从零掌握核心要点MVC定义:MVC是Model(模型)、 View(视图)、 Controller(控制器)的缩写Spring MVC重点就是如何通过浏览器和用户程序进行交互,主要为以下三个方面:
ljs6482739515 天前
大数据·hadoop·分布式
Hadoop集群部署常见问题很多小伙伴搭建Hadoop集群时,总会卡在环境配置、进程启动、集群通信、权限报错等各种问题上,反复踩坑、耗时耗力。本文整理了Hadoop3.x 集群部署最常见的10类故障,涵盖SSH免密、HDFS启动、YARN异常、端口冲突、配置报错等场景,所有命令可直接复制使用,适合新手部署、线上集群排错、面试复盘。
TTBIGDATA5 天前
大数据·hadoop·ambari·hdp·hue·cdh·bigtop
【Ambari Plus】14.Hue 安装Hue 是一个 Web 化的数据入口,常用来访问 HDFS 文件、Hive 查询、作业浏览和 Notebook 类能力。它不像 HDFS、YARN 那样承担底层存储或调度,但它会把前面装好的 HDFS、Hive、Spark 等组件串到一个页面里,所以我会把 Hue 放在这一组组件的最后安装。
牛奶咖啡136 天前
大数据·hadoop·分布式·hadoop是什么?有啥用?·hadoop的适用与不适用场景·hadoop伪分布式的安装部署·hadoop分布式存储操作
大数据Hadoop运维应用实践——Hadoop大数据平台基础与架构(hadoop伪分布式的安装部署)Hadoop 是 Apache 基金会维护的开源分布式存储与分布式计算框架。支持在普通商用服务器集群上,依托简易编程模型对海量数据集进行分布式处理;集群可单机横向扩展至上千台节点;不在硬件层面追求高可用,而是在应用层自动检测、处理故障,实现廉价集群上的可靠分布式运算。
2501_942389555 天前
人工智能·hadoop·zookeeper·oracle·时序数据库·memcache
特斯拉的车辆摄像头每四天为AI训练集采集的数据量Steve Jurvetson是马斯克的首位投资人、SpaceX和Tesla的早期投资人,他与马斯克相识29年。在近期一档访谈节目中,他阐述了自己对AI未来走向的判断,以及当前正在布局的投资方向。
TTBIGDATA6 天前
大数据·运维·hadoop·ambari·hdp·cdh·bigtop
【Ambari Plus】15.Livy 安装Livy 是 Spark 的 REST 服务入口。它不会替代 Spark History Server,也不会自己负责资源调度;它的作用更像一个网关:外部系统通过 HTTP 提交 Spark Session、Statement 或批任务,Livy 再把任务交给 Spark on YARN。
李昊哲小课7 天前
hadoop·hbase
Ubuntu26.04-Hadoop3.5.0搭建Hbase2.6.6集群启动zookeeper和hadoop完整可以不配置http://lihaozhe01:16010/http://lihaozhe02:16010/
我登哥MVP7 天前
java·大数据·hadoop·分布式·云原生·云计算
Hadoop成长史-从Nutch子项目到大数据生态王者2003 年,Google 发表了三篇论文。一个叫 Doug Cutting 的程序员读后灵光一现,于是他写了一个开源项目。谁也想不到,这个项目日后会成为大数据时代的"操作系统"。
我登哥MVP7 天前
java·hadoop·hdfs·云原生·云计算
HDFS硬核拆解-读写Pipeline与Java实战你有一个 10TB 的文件,单机存不下怎么办?答案是:把它切成小块,分散存储在多台机器上。但这又带来了新问题——如何保证数据不丢?如何找到我需要的数据?HDFS 就是为此而生的。
ljs6482739517 天前
大数据·hadoop·hdfs
VMware 中部署 HDFS 集群环境(Hadoop 3.4.3)完整指南本文详细记录从零开始在 VMware 虚拟机中搭建 3 节点 Hadoop HDFS 分布式文件系统集群的全过程,基于 CentOS 系统,Hadoop 版本 3.4.3。
sunxunyong7 天前
大数据·hadoop·分布式
Hadoop租户创建#获取密码 slappasswd -h {md5} -s “1@W” {MD5}ZHwdpWVRamv4adg==
斯文的八宝粥7 天前
大数据·hadoop·wpf
WPF企业内训全程实录(下)WPF企业内训全程实录由于文章比较长,所以一共拆分成了三篇,上篇WPF企业内训全程实录(上)主要讲了基础,中篇WPF企业内训全程实录(中)主要讲解开发模式、团队协作及应用框架,起着承上启下的作用,主要讲解开发模式、团队协作及应用框架。这篇作为该实录的下篇——终结篇,起着总结的作用,主要讲解其他技术的引用、WPF项目及性能优化、部署与更新等议题。
Zhu7587 天前
大数据·hadoop·分布式
使用腾讯CNB构建Hadoop定制容器镜像使用腾讯CNB构建Apache Hadoop容器镜像, 文中文件在https://cnb.cool/zhudev-2025/apache-hadoop-dev
TTBIGDATA7 天前
大数据·hadoop·分布式·spark·ambari·sqoop·ambari plus
【Ambari Plus】13.Spark 安装Spark 是批处理、SQL、流处理和机器学习场景里很常用的计算引擎。本篇在已经安装 HDFS、YARN、Hive、Flink、Kafka 的基础上继续安装 Spark。
泰克教育官方账号8 天前
数据仓库·hive·hadoop
泰涨知识 | Hive集群环境部署Hive是什么Hive是由Facebook开源,基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张表,并提供类SQL查询功能。
心中有国也有家8 天前
hive·hadoop·学习·flutter·华为·harmonyos
E-Brufen 技术选型全景:Flutter + 鸿蒙 + Hive CE数据流示意:背景:HarmonyOS 原生开发使用 ArkTS + ArkUI,而 Flutter 通过其鸿蒙引擎提供了一条跨平台路径。