Spark基本介绍

一,Spark是什么

1.定义:Aache Spark是用于大规模数据处理的统一分析引擎。

二,Spark的发展

三,Spark的特点

  • 高效性

    • 计算速度快

      • 提供了一个全新的数据结构RDD(弹性分布式数据集)。整个计算操作,基于内存计算。当内存不足的时候,可以放置到磁盘上。整个流程是基于DAG(有向无环图)执行方案。

      • Task线程完成计算任务执行

  • 易用性

    • 支持多种语言开发 (Python,SQL,Java,Scala,R),降低了学习难度
  • 通用性

    • 在 Spark 的基础上,Spark 还提供了包括Spark SQL、Spark Streaming、MLlib 及GraphX在内的多个工具库(模块),我们可以在一个应用中无缝地使用这些工具库。
  • 兼容性(任何地方运行)

    • 支持三方工具接入

      • 存储工具

        • hdfs

        • kafka

        • hbase

      • 资源调度

        • yarn

        • Kubernetes(K8s容器)

        • standalone(spark自带的)

      • 高可用

        • zookeeper
    • 支持多种操作系统

      • Linux

      • windows

      • Mac

给一个快速记忆的方法: speed, easy use , general , runs everywhere

相关推荐
科技AI训练师7 小时前
2026 屋顶风机行业观察测评:英飞风机助力建筑通风排烟升级
大数据·人工智能
weixin_531651817 小时前
Git 操作指南
大数据·git·elasticsearch
哲霖软件8 小时前
非标机械行业订单变更下的成本管控困境及数字化解决方案
大数据·非标自动化·机械设备erp
隔壁寝室老吴8 小时前
使用Flink2.0消费低版本的Kafka
分布式·kafka
数字供应链安全产品选型8 小时前
2026年4月22日:重塑智能体防御范式——灵境AIDR如何以“五大支柱”终结Hermes Agent自进化带来的安全焦虑?
大数据
ClouGence9 小时前
从 OLTP 到 OLAP:Spanner 到 StarRocks 架构演进与实现
大数据·数据库·starrocks·olap·dba·oltp·spanner
亚林瓜子9 小时前
AWS Glue PySpark中日志设置
python·spark·日志·aws·pyspark·log·glue
Full Stack Developme9 小时前
Hutool TreeUtil 教程
大数据·windows
科技AI训练师9 小时前
2026工业风机行业观察:英飞风机在中高端通风排烟领域表现
大数据·人工智能
大大大大晴天️9 小时前
Flink技术实践-Flink指标监控全景指南
大数据·flink