hadoop

斯文的八宝粥1 小时前
大数据·hadoop·wpf
WPF企业内训全程实录(下)WPF企业内训全程实录由于文章比较长,所以一共拆分成了三篇,上篇WPF企业内训全程实录(上)主要讲了基础,中篇WPF企业内训全程实录(中)主要讲解开发模式、团队协作及应用框架,起着承上启下的作用,主要讲解开发模式、团队协作及应用框架。这篇作为该实录的下篇——终结篇,起着总结的作用,主要讲解其他技术的引用、WPF项目及性能优化、部署与更新等议题。
Zhu7582 小时前
大数据·hadoop·分布式
使用腾讯CNB构建Hadoop定制容器镜像使用腾讯CNB构建Apache Hadoop容器镜像, 文中文件在https://cnb.cool/zhudev-2025/apache-hadoop-dev
TTBIGDATA3 小时前
大数据·hadoop·分布式·spark·ambari·sqoop·ambari plus
【Ambari Plus】13.Spark 安装Spark 是批处理、SQL、流处理和机器学习场景里很常用的计算引擎。本篇在已经安装 HDFS、YARN、Hive、Flink、Kafka 的基础上继续安装 Spark。
泰克教育官方账号8 小时前
数据仓库·hive·hadoop
泰涨知识 | Hive集群环境部署Hive是什么Hive是由Facebook开源,基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张表,并提供类SQL查询功能。
心中有国也有家1 天前
hive·hadoop·学习·flutter·华为·harmonyos
E-Brufen 技术选型全景:Flutter + 鸿蒙 + Hive CE数据流示意:背景:HarmonyOS 原生开发使用 ArkTS + ArkUI,而 Flutter 通过其鸿蒙引擎提供了一条跨平台路径。
DataPulse*1 天前
hive·hadoop·硬件架构
Hive常用参数调优十二板斧一般情况下,Limit语句还是需要执行整个查询语句,然后再返回部分结果。有一个配置属性可以开启,避免这种情况---对数据源进行抽样。
TTBIGDATA2 天前
hive·hadoop·flink·ambari·hdp·cdh·bigtop
【Ambari Plus】12.Flink 安装Flink 在这套环境里主要接入 YARN 运行。安装时会部署 FLINK_HISTORYSERVER 和 FLINK_CLIENT,HistoryServer 用来看已完成作业,Client 用来提交 Flink 任务。
AllData公司负责人2 天前
大数据·数据库·数据仓库·人工智能·hive·hadoop·开源
AIIData数据中台集成OpenMetadata开源项目,成功运行Hive数据血缘拾取任务,支持库级别+表级别+字段级血缘!AIIData数据中台集成OpenMetadata构建元数据管理平台,可快速对接Hive数据源,自动抽取表级与字段级数据血缘关系,全景还原数据流转全链路。通过统一企业元数据标准口径,能够有效压降数据治理成本,大幅提升数据溯源与故障排查效率。
2601_962341302 天前
java·大数据·开发语言·hadoop·python·考研·课程设计
计算机毕业设计之jsp考研在线复习平台近年来,科技飞速发展,在经济全球化的背景之下,互联网技术将进一步提高社会综合发展的效率和速度,互联网技术也会涉及到各个领域,而考研在线复习平台在网络背景下有着无法忽视的作用。信息管理系统的开发是一个不断优化的过程,随着网络数据时代的到来,信息管理系统与计算机的集成成为必然。
阿坤带你走近大数据7 天前
大数据·hadoop·flink·kafka
大数据中的各种场景数据倾斜的介绍数据倾斜的本质是分布式系统中负载分配不均。在理想的分布式计算中,数据应均匀分摊到各个节点;但在现实中,往往会变成“一个人干完所有人活,其他人都在等”。
TTBIGDATA6 天前
大数据·hadoop·ambari·hdp·cdh·bigtop·ambari plus
【Ambari Plus】06.MapReduce2 安装MapReduce2 在这套安装流程里不是单独再开一个向导安装,而是在选择 YARN 时被自动纳入依赖。页面会显示本次安装同时处理 YARN 和 MapReduce2,所以这一篇重点讲 MapReduce2 在同一向导里的角色分配和安装后确认。
TTBIGDATA4 天前
大数据·运维·hadoop·ambari·hdp·cdh·bigtop
【Ambari Plus】10.HBase 安装HBase 是基于 HDFS 的分布式列式存储,安装前必须先保证 HDFS 和 ZooKeeper 已经正常运行。我的安装顺序是先完成 HDFS、YARN、Tez、Hive、Sqoop,再安装 HBase;这样 HBase 后续和 Hive、Phoenix、Ranger 的联动会更顺。
TTBIGDATA4 天前
大数据·hadoop·分布式·kafka·ambari·hdp·ambari plus
【Ambari Plus】11.Kafka 安装Kafka 用来承载消息发布订阅和流式数据管道。它依赖 ZooKeeper,本篇环境已经提前安装并启动了三节点 ZooKeeper,所以可以直接进入 Kafka 安装。
李昊哲小课4 天前
大数据·hadoop·分布式·ubuntu·hdfs·mapreduce
Ubuntu26.04 搭建 Hadoop3.5.0 完全分布式nodejs python scala maven 是为 其他集群和开发环境准备的 如果只是搭建hadoop集群可以忽略
2501_947575805 天前
java·开发语言·hadoop·python·信息可视化·django·课程设计
计算机毕业设计之jsp开山车行二手车交易系统随着信息化时代的到来,管理系统都趋向于智能化、系统化,开山车行二手车交易系统也不例外,但目前国内的有些市场仍然都使用人工管理,市场规模越来越大,同时信息量也越来越庞大,人工管理显然已无法应对时代的变化,而二手车交易平台系统能很好地解决这一问题,轻松应对二手车交易平时的工作,既能提高人力物力财力,又能提高成交的效率,取代人工管理是必然趋势。
KASH_SHADOW5 天前
hive·hadoop·sqoop
10-Sqoop的安装与配置Sqoop的安装与配置1. 任务概述本任务旨在指导大数据工程师或数据平台管理员,在Linux环境中完成Sqoop工具的安装与配置。通过本任务的学习与实践,学员将掌握从安装包准备、解压部署、环境配置、系统集成到功能验证与数据库连接测试的全流程技能。
TTBIGDATA5 天前
大数据·hadoop·ambari·hdp·sqoop·cdh·ambari plus
【Ambari Plus】08.Sqoop 安装Sqoop 主要用于关系型数据库和 Hadoop 生态之间的数据导入导出。它不像 HDFS、YARN 那样有常驻服务进程,本篇安装的核心动作是把 SQOOP Client 分发到目标主机,并下发 sqoop-env、sqoop-site 等客户端配置。
WhoAmI17 天前
大数据·hadoop
MapReduce框架原理解析一:InputFormat在大数据处理的宏大叙事中,MapReduce 无疑是那个开启了时代篇章的经典模型。它将复杂的并行计算抽象为“Map(映射)”和“Reduce(归约)”两个核心阶段,让开发者能够专注于业务逻辑本身,而无需深陷于分布式系统的复杂性泥潭。然而,一个 MapReduce 作业的成功启动,并非始于 Mapper 的第一行代码,而是源于对输入数据的精准规划与读取。这正是 InputFormat 大显身威的舞台。
WhoAmI17 天前
大数据·hadoop
MapReduce框架原理解析三:OutputFormat在 MapReduce 框架中,数据如何被写入到文件系统,是由 OutputFormat 组件决定的。它是 MapReduce 数据处理流水线的最后一环,负责将 Reduce 阶段(或 Map 阶段,如果没有 Reduce)产生的结果数据,按照指定的格式和路径写入到HDFS或其他存储系统中。
WhoAmI17 天前
大数据·hadoop
MapReduce框架原理解析二:Shuffle在 MapReduce 的宏大叙事中,如果说 Map 是“分”的智慧,Reduce 是“合”的艺术,那么连接这两者的 Shuffle 过程,就是那根穿针引线的“金线”。