大数据与云计算知识点

一、云计算核心要点

  1. 定义

云计算是基于互联网的动态易扩展、虚拟化资源交付模式,按使用量付费,用户可按需访问含网络、服务器、存储等的计算资源共享池,且无需过多管理干预(美国国家标准与技术研究院NIST定义)。

  1. 核心特征
  • 自我服务:用户可自主调配资源,无需依赖服务方人工操作

  • 按量付费:根据实际资源使用量结算,降低闲置成本

  • 弹性架构:支持资源灵活扩展与收缩,适配业务波动需求

  1. 核心优势
  • 节省硬件采购与维护成本

  • 减少软件许可费用

  • 降低运维团队人力开支

  • 优化系统能耗

  1. 两大分类模式

| 分类维度 | 具体类型 | 特点 |

| 资源归属 | 私有云 | 部署于企业内部,仅面向内部员工使用 |

| | 公有云 | 面向互联网大众,提供开放资源服务 |

| | 混合云 | 融合私有云与公有云,兼顾安全与扩展 |

| 服务模式 | IaaS(基础设施即服务) | 提供基础硬件资源(如网盘、阿里云主机、EC2) |

| | PaaS(平台即服务) | 提供开发与运行平台(如Google Appspot、百度BAE) |

| | SaaS(软件即服务) | 提供直接可用软件应用(如搜索引擎、地图、电商平台) |

| | DaaS(数据即服务) | 提供数据查询、分析等数据服务 |

  1. 关键技术
  • 分布式计算与存储:通过计算集群、存储集群提升处理能力与容量

  • 虚拟化技术:细粒度划分计算资源,提高利用率、降低成本

  • 自动运维技术:实现集群机器自动部署、故障节点自动剔除

  • 计费模式:与业务场景绑定,是云计算商业化核心难点6. 起源与主流平台

  • 起源:亚马逊AWS(含S3存储、EC2虚拟计算等)是云计算商业化开端,核心推动者为亚马逊CTO Werner Vogels

  • 主流平台:

  • OpenStack:开源(Apache许可),含Nova(虚拟服务器部署)、Swift(分布式存储)模块

  • CloudStack:开源,隶属Apache基金会顶级项目

  • Eucalyptus:源于高校研究,已商业化

  • VMware:非开源收费,侧重企业级虚拟化

二、大数据核心要点

  1. 起源
  • 技术源头:Google的GFS(分布式文件系统)、Map-Reduce(并行计算框架)、Big Table(分布式数据库)奠定基础

  • 关键项目:Doug Cutting主导的Hadoop,是大数据核心开源框架

  1. Hadoop 2.0核心组件

| 组件 | 功能 |

| HDFS | 分布式文件系统,提供高可靠、高扩展、高吞吐的海量数据存储 |

| YARN | 集群资源调度器,统一管理计算资源,支撑多任务并行 |

| MapReduce | 分布式计算框架,易编程、高容错、高扩展,适用于批量数据处理 |

  1. Hadoop版本演化
  • 1.0时代:MapReduce同时承担"资源管理"与"数据处理",架构耦合度高

  • 2.0及以后:YARN独立负责资源管理,MapReduce仅聚焦数据处理,支持Spark、Storm等多框架接入

  1. 国内典型应用案例
  • 京东:200-300节点Hadoop集群,为企业及第三方商家提供数据日志分析

  • 淘宝&支付宝:9个集群,单集群超3000节点,日均处理数据2-3PB

  • 百度:约3万节点集群,日均处理数据30PB+,日运行作业超20万次

三、两者关联

云计算为大数据提供弹性、低成本的基础设施支撑(如分布式存储、计算资源池),大数据是云计算的重要应用场景,二者协同推动海量数据高效处理与价值挖掘。

相关推荐
DX_水位流量监测10 小时前
压力式水位计的技术特性与应用实践
大数据·网络·人工智能·安全·信息可视化
hg011810 小时前
中企承建的突尼斯光伏项目实现商业运营
大数据
豌豆学姐10 小时前
Sora2 能做什么?25 秒视频生成 API 的一次接入实践
大数据·人工智能·小程序·aigc·php·开源软件
躺柒11 小时前
读共生:4.0时代的人机关系02人机合作后
大数据·人工智能·机器人·人机交互·人机协作·人机对话
ST小智11 小时前
2025年创作历程回顾与个人生活平衡
大数据·linux·人工智能
5G全域通11 小时前
面向5G复杂性的下一代运维技术体系:架构、工具与实践
大数据·运维·人工智能·5g·架构
GIS阵地12 小时前
git拉取时报错
大数据·git·elasticsearch
ha_lydms12 小时前
3、Spark 函数_d/e/f/j/h/i/j/k/l
大数据·分布式·spark·函数·数据处理·dataworks·maxcompute
!chen12 小时前
AWS服务搭建的全球服务架构
架构·云计算·aws
忍冬行者12 小时前
kubernetes安装traefik Gateway API,应对Ingress NGINX停止维护
云原生·kubernetes·云计算