hadoop

王小王-1231 小时前
hadoop·数据分析·flask·电动汽车·新能源汽车数据分析·新能源汽车销量分析·新能源汽车销售分析
基于 Hadoop + Flask 的电动汽车数据分析与可视化系统设计与实现目录1 项目简介2 项目背景与应用场景3 项目整体功能介绍4 技术路线与开发环境5 系统功能模块展示5.1 数据采集与预处理模块
王小王-1232 小时前
hadoop·机器学习·数据分析·心脏病预测
基于机器学习与Hadoop的心脏病数据分析与可视化设计与实现有需要本项目的代码或文档以及全部资源,或者部署调试可以私信博主图1 项目封面效果一、项目整体介绍这套项目围绕心脏病健康数据展开,从原始数据整理、字段清洗、统计聚合、模型预测到可视化大屏呈现,形成了一条比较完整的数据挖掘实践链路。数据字段覆盖 BMI、吸烟、饮酒、中风、身体健康天数、精神健康天数、行走困难、年龄段、糖尿病、总体健康、睡眠时长、哮喘、肾病、皮肤癌等多个维度,既能做基础统计,也能继续向机器学习预测方向扩展。
知识分享小能手2 小时前
大数据·hadoop·学习
Hadoop学习教程,从入门到精通, Hadoop 3.x 高可用集群 — 知识点详解(6)核心知识点:在 Hadoop 1.x 中,NameNode 存在单点故障(SPOF)。HDFS HA 通过配置 Active/Standby 两个 NameNode 来解决此问题。
知识分享小能手1 天前
hadoop·分布式·zookeeper
Hadoop学习教程,从入门到精通, ZooKeeper 分布式协调服务 — 全面知识点与案例代码(5)ZooKeeper 是 Apache 软件基金会的一个开源项目,最初由 Google 的 Chubby 论文启发而来。它是一个分布式的、开放源码的分布式应用程序协调服务,是 Google Chubby 的一个开源实现。
知识分享小能手2 天前
hadoop·学习·mapreduce
Hadoop学习教程,从入门到精通, MapReduce分布式计算框架 — 完整知识点与代码案例(4)MapReduce是Hadoop的核心组件之一,是一种分布式并行编程模型,用于大规模数据集(大于1TB)的并行运算。它将复杂的、运行于大规模集群上的并行计算过程高度抽象为两个函数:Map(映射) 和 Reduce(归约)。
白日与明月2 天前
数据仓库·hive·hadoop
Hive子查询中的ORDER BY陷阱:为什么排序“消失”了?今日和同事争论了片刻,背景是这样的, 有个客户写了一个SQL, 然后其中需要进行排序, 但是写了Order by, 但是排序没有生效. 然后我就尝试了下, 果然,在大数据平台里执行,是报错的. 但是在beeline执行, 查询结果是正常的, 所以就怀疑研发写了一个BUG, 于是就开始争论. SQL很简单,简写为
段一凡-华北理工大学2 天前
大数据·人工智能·hadoop·分布式·学习·架构·高炉炼铁
工业领域的Hadoop架构学习~系列文章24:adoop工业应用总结与展望 - 技术路线图与最佳实践导言:作为专栏的收官之作,本期对《工业领域的Hadoop架构学习》进行系统性总结,回顾核心技术要点,提炼最佳实践经验,并展望未来的技术发展方向,为读者提供完整的技术路线图和持续学习指南。
段一凡-华北理工大学2 天前
大数据·人工智能·hadoop·分布式·学习·架构·高炉炼铁
工业领域的Hadoop架构学习~系列文章23:物流行业Hadoop应用实践 - 智能物流的数字化引擎导言:物流行业是数据密集型行业,涵盖仓储、运输、配送、最后一公里等多个环节。本期深入讲解Hadoop在智能仓储、路径优化、需求预测、车辆调度等场景的应用,从数据采集到智能决策,完整呈现物流大数据的落地实践。
奇点爆破XC3 天前
大数据·hadoop·ambari
Hadoop大数据生态(Ambari管理)组件服务详解本文档整理Ambari集群全量核心组件、附属工具及安全服务,按业务模块分类,清晰说明各服务、角色的定位与核心功能,适用于集群运维、学习查阅、台账备案。
段一凡-华北理工大学3 天前
大数据·人工智能·hadoop·分布式·学习·架构·高炉炼铁
工业领域的Hadoop架构学习~系列文章22:Hadoop生态展望 - 面向未来的技术演进导言:大数据技术正在经历深刻变革,云原生化、湖仓一体、AI融合成为新的发展方向。本期深入探讨Hadoop生态的技术演进趋势,分析云原生Hadoop、数据网格、向量数据库等前沿技术,为企业和开发者提供技术路线参考。
Nefu_lyh3 天前
数据仓库·hive·hadoop
【Hive】六、Hive 运算逻辑:数学 / 逻辑 / 条件 / 日期 / 字符串函数Hive 支持标准 SQL 的数学运算符,用于数值计算。用于条件判断和布尔运算,返回 TRUE/FALSE/NULL。
知识分享小能手3 天前
hadoop·学习·hdfs
Hadoop学习教程,从入门到精通, HDFS分布式文件系统 — 完整知识点与案例代码(3)HDFS(Hadoop Distributed File System)是 Apache Hadoop 项目的核心子项目,是一个分布式、可扩展、高容错的文件系统。
段一凡-华北理工大学4 天前
大数据·人工智能·hadoop·学习·架构·高炉炼铁·工业智能体
工业领域的Hadoop架构学习~系列文章20:故障诊断与根因分析 - 从表象到本质的智能推理导言:故障诊断与根因分析是工业大数据平台的核心价值体现。本期深入讲解基于规则、基于统计、基于机器学习、基于知识图谱等多种故障诊断方法,详细剖析工业故障传播模型与因果推断技术,并结合实战代码展示完整的故障诊断与根因分析系统。
Francek Chen4 天前
大数据·hadoop·分布式·mapreduce
【大数据处理与分析】MapReduce:05 MapReduce的具体应用【作者主页】Francek Chen 【专栏介绍】 ⌈ ⌈ ⌈大数据技术原理与应用 ⌋ ⌋ ⌋专栏系统介绍大数据的相关知识,分为大数据基础篇、大数据存储与管理篇、大数据处理与分析篇、大数据应用篇。内容包含大数据概述、大数据处理架构Hadoop、分布式文件系统HDFS、分布式数据库HBase、NoSQL数据库、云数据库、MapReduce、Hadoop再探讨、数据仓库Hive、Spark、流计算、Flink、图计算、数据可视化,以及大数据在互联网领域、生物医学领域的应用和大数据的其他应用。 【GitCode
知识分享小能手4 天前
大数据·hadoop·学习
Hadoop学习教程,从入门到精通, 部署Hadoop 3.x — 知识点详解(2)需要提前下载以下软件包:在部署之前,需要规划好集群的网络配置:步骤一:启动新建向导步骤二:选择硬件兼容性
AQin10124 天前
数据仓库·hive·hadoop·doris
【对比向】既生瑜何生亮?不!Hive 和 Doris不一样结论先行 -> 能看懂的就不用看后面的展开解释咯Hive 承担批处理 ETL 的数据生产责任(清洗→规范化→汇总),把最终需要被高频、低延迟、高并发查询的那部分结果(DWS/ADS/热明细)以批量的方式 Load 进 Doris;Doris 用合适的表模型和分区/分桶设计把这些结果变成"可交互查询",从而把 BI/运营/接口的体验从"分钟级"拉到"秒级"。
段一凡-华北理工大学4 天前
大数据·人工智能·hadoop·分布式·学习·架构·高炉炼铁
工业领域的Hadoop架构学习~系列文章19:能源行业Hadoop应用实践导言:能源行业是Hadoop大数据技术的重要应用领域,涵盖电力、石油、天然气、新能源等多个细分行业。本期深入讲解智能电网、油气生产优化、新能源运维等典型场景的Hadoop解决方案,从数据采集到智能分析,完整呈现能源大数据的落地实践。
知识分享小能手5 天前
大数据·hadoop·学习
Hadoop学习教程,从入门到精通, 初识Hadoop — 知识点详解(1)定义: 大数据(Big Data)是指传统数据处理软件工具无法在合理时间内完成采集、存储、管理和分析的大规模、复杂数据集合。其核心不仅在于数据量之"大",更在于从海量数据中提取有价值信息的能力。
青春万岁!!5 天前
数据仓库·hive·hadoop
hive分区表加字段后insert字段为空哈喽朋友们,昨天又在生产环境遇到一个分区表加字段后,insert 进去字段为空的问题。原因是要在分区表中加字段,一般为了不影响历史数据都通过alter table table_name add columns 加字段,环境依旧是华为云DataArts。
Eileen Seligman6 天前
大数据·hadoop·hdfs·ctf·rce
0CTF/TCTF 2023 OLAPInfra Nashorn RCE + HDFS UDF RCEClickHouse:是一个开源的列式数据库管理系统clickhouse-jdbc-bridge:clickhouse数据库和jdbc交互的工具