大数据与云计算知识点

一、云计算核心要点

  1. 定义

云计算是基于互联网的动态易扩展、虚拟化资源交付模式,按使用量付费,用户可按需访问含网络、服务器、存储等的计算资源共享池,且无需过多管理干预(美国国家标准与技术研究院NIST定义)。

  1. 核心特征
  • 自我服务:用户可自主调配资源,无需依赖服务方人工操作

  • 按量付费:根据实际资源使用量结算,降低闲置成本

  • 弹性架构:支持资源灵活扩展与收缩,适配业务波动需求

  1. 核心优势
  • 节省硬件采购与维护成本

  • 减少软件许可费用

  • 降低运维团队人力开支

  • 优化系统能耗

  1. 两大分类模式

| 分类维度 | 具体类型 | 特点 |

| 资源归属 | 私有云 | 部署于企业内部,仅面向内部员工使用 |

| | 公有云 | 面向互联网大众,提供开放资源服务 |

| | 混合云 | 融合私有云与公有云,兼顾安全与扩展 |

| 服务模式 | IaaS(基础设施即服务) | 提供基础硬件资源(如网盘、阿里云主机、EC2) |

| | PaaS(平台即服务) | 提供开发与运行平台(如Google Appspot、百度BAE) |

| | SaaS(软件即服务) | 提供直接可用软件应用(如搜索引擎、地图、电商平台) |

| | DaaS(数据即服务) | 提供数据查询、分析等数据服务 |

  1. 关键技术
  • 分布式计算与存储:通过计算集群、存储集群提升处理能力与容量

  • 虚拟化技术:细粒度划分计算资源,提高利用率、降低成本

  • 自动运维技术:实现集群机器自动部署、故障节点自动剔除

  • 计费模式:与业务场景绑定,是云计算商业化核心难点6. 起源与主流平台

  • 起源:亚马逊AWS(含S3存储、EC2虚拟计算等)是云计算商业化开端,核心推动者为亚马逊CTO Werner Vogels

  • 主流平台:

  • OpenStack:开源(Apache许可),含Nova(虚拟服务器部署)、Swift(分布式存储)模块

  • CloudStack:开源,隶属Apache基金会顶级项目

  • Eucalyptus:源于高校研究,已商业化

  • VMware:非开源收费,侧重企业级虚拟化

二、大数据核心要点

  1. 起源
  • 技术源头:Google的GFS(分布式文件系统)、Map-Reduce(并行计算框架)、Big Table(分布式数据库)奠定基础

  • 关键项目:Doug Cutting主导的Hadoop,是大数据核心开源框架

  1. Hadoop 2.0核心组件

| 组件 | 功能 |

| HDFS | 分布式文件系统,提供高可靠、高扩展、高吞吐的海量数据存储 |

| YARN | 集群资源调度器,统一管理计算资源,支撑多任务并行 |

| MapReduce | 分布式计算框架,易编程、高容错、高扩展,适用于批量数据处理 |

  1. Hadoop版本演化
  • 1.0时代:MapReduce同时承担"资源管理"与"数据处理",架构耦合度高

  • 2.0及以后:YARN独立负责资源管理,MapReduce仅聚焦数据处理,支持Spark、Storm等多框架接入

  1. 国内典型应用案例
  • 京东:200-300节点Hadoop集群,为企业及第三方商家提供数据日志分析

  • 淘宝&支付宝:9个集群,单集群超3000节点,日均处理数据2-3PB

  • 百度:约3万节点集群,日均处理数据30PB+,日运行作业超20万次

三、两者关联

云计算为大数据提供弹性、低成本的基础设施支撑(如分布式存储、计算资源池),大数据是云计算的重要应用场景,二者协同推动海量数据高效处理与价值挖掘。

相关推荐
Promise微笑6 小时前
2026年国产替代油介损测试仪:油介损全场景解决方案与技术演进
大数据·网络·人工智能
workflower6 小时前
具身智能行业应用-生活服务业
大数据·人工智能·机器人·动态规划·生活
志栋智能8 小时前
超自动化安全:构建智能安全运营的核心引擎
大数据·运维·服务器·数据库·安全·自动化·产品运营
xiaoduo AI8 小时前
客服机器人非工作时间能休眠?智能Agent开放平台定时唤醒,无人值守省资源?
大数据·人工智能·机器人
好赞科技9 小时前
深度测评2026年精选美发预约小程序排行榜 革新预约新体验 修订
大数据·微信小程序
面汤放盐10 小时前
何时使用以及何时不应使用微服务:没有银弹
java·运维·云计算
集和诚JHCTECH10 小时前
BRAV-7120加持,让有毒有害气体无处遁形
大数据·人工智能·嵌入式硬件
互联网志12 小时前
加速高校科技成果转化 赋能实体经济高质量发展
大数据·人工智能·物联网
李可以量化12 小时前
DeepSeek 量化交易实战:用标准化提示词模板实现 AI 辅助交易决策
大数据·数据库·人工智能
学掌门12 小时前
数据分析师职业规划——数据分析师的职业焦虑与未来发展
大数据·信息可视化