大数据与云计算知识点

一、云计算核心要点

  1. 定义

云计算是基于互联网的动态易扩展、虚拟化资源交付模式,按使用量付费,用户可按需访问含网络、服务器、存储等的计算资源共享池,且无需过多管理干预(美国国家标准与技术研究院NIST定义)。

  1. 核心特征
  • 自我服务:用户可自主调配资源,无需依赖服务方人工操作

  • 按量付费:根据实际资源使用量结算,降低闲置成本

  • 弹性架构:支持资源灵活扩展与收缩,适配业务波动需求

  1. 核心优势
  • 节省硬件采购与维护成本

  • 减少软件许可费用

  • 降低运维团队人力开支

  • 优化系统能耗

  1. 两大分类模式

| 分类维度 | 具体类型 | 特点 |

| 资源归属 | 私有云 | 部署于企业内部,仅面向内部员工使用 |

| | 公有云 | 面向互联网大众,提供开放资源服务 |

| | 混合云 | 融合私有云与公有云,兼顾安全与扩展 |

| 服务模式 | IaaS(基础设施即服务) | 提供基础硬件资源(如网盘、阿里云主机、EC2) |

| | PaaS(平台即服务) | 提供开发与运行平台(如Google Appspot、百度BAE) |

| | SaaS(软件即服务) | 提供直接可用软件应用(如搜索引擎、地图、电商平台) |

| | DaaS(数据即服务) | 提供数据查询、分析等数据服务 |

  1. 关键技术
  • 分布式计算与存储:通过计算集群、存储集群提升处理能力与容量

  • 虚拟化技术:细粒度划分计算资源,提高利用率、降低成本

  • 自动运维技术:实现集群机器自动部署、故障节点自动剔除

  • 计费模式:与业务场景绑定,是云计算商业化核心难点6. 起源与主流平台

  • 起源:亚马逊AWS(含S3存储、EC2虚拟计算等)是云计算商业化开端,核心推动者为亚马逊CTO Werner Vogels

  • 主流平台:

  • OpenStack:开源(Apache许可),含Nova(虚拟服务器部署)、Swift(分布式存储)模块

  • CloudStack:开源,隶属Apache基金会顶级项目

  • Eucalyptus:源于高校研究,已商业化

  • VMware:非开源收费,侧重企业级虚拟化

二、大数据核心要点

  1. 起源
  • 技术源头:Google的GFS(分布式文件系统)、Map-Reduce(并行计算框架)、Big Table(分布式数据库)奠定基础

  • 关键项目:Doug Cutting主导的Hadoop,是大数据核心开源框架

  1. Hadoop 2.0核心组件

| 组件 | 功能 |

| HDFS | 分布式文件系统,提供高可靠、高扩展、高吞吐的海量数据存储 |

| YARN | 集群资源调度器,统一管理计算资源,支撑多任务并行 |

| MapReduce | 分布式计算框架,易编程、高容错、高扩展,适用于批量数据处理 |

  1. Hadoop版本演化
  • 1.0时代:MapReduce同时承担"资源管理"与"数据处理",架构耦合度高

  • 2.0及以后:YARN独立负责资源管理,MapReduce仅聚焦数据处理,支持Spark、Storm等多框架接入

  1. 国内典型应用案例
  • 京东:200-300节点Hadoop集群,为企业及第三方商家提供数据日志分析

  • 淘宝&支付宝:9个集群,单集群超3000节点,日均处理数据2-3PB

  • 百度:约3万节点集群,日均处理数据30PB+,日运行作业超20万次

三、两者关联

云计算为大数据提供弹性、低成本的基础设施支撑(如分布式存储、计算资源池),大数据是云计算的重要应用场景,二者协同推动海量数据高效处理与价值挖掘。

相关推荐
我的愿望是成为富婆1 小时前
2027校招准备:普通本科数据相关专业,如何把考证、SQL与项目能力衔接起来?
大数据
螺蛳粉 螺蛳粉1 小时前
OpenStack 部署记录(三):Packstack 单机一键部署与 10 步验证
云计算·openstack·puppet·linux运维·一键部署·packstack
重生之高冷汉堡包1 小时前
JavaScript 网络爬虫教程(2026)
大数据·网络·爬虫·安全
Data analyse4561 小时前
用户路径SQL按会话起止时间聚合的方法
大数据·服务器·前端·数据库·人工智能·sql·数据分析
程序员清风1 小时前
文本字段清洗:字符串、分类值与格式标准化
大数据·人工智能·分类
智慧物业老杨1 小时前
物业费催收难?数智化系统如何用技术重构“服务-收费“闭环
大数据·人工智能
Raas1001 小时前
AI网关怎么选?MAI Gateway(魔芋企业级AI网关)入选2026年企业级AI网关推荐清单
大数据·网络·人工智能·gateway·mai gateway
恒拓高科WorkPlus1 小时前
企业IM、OA套件与数字协同平台怎么选?现有系统集成与采购成本对比
大数据·安全
数据皮皮侠1 小时前
中国产品级二氧化碳排放数据集
大数据·人工智能·搜索引擎·智慧城市·制造
科技小E2 小时前
敏感数据不敢上云训练?本地大模型推理服务器DLTM私有化部署,让训练全程留在企业内网
大数据·算法·自动化