修改云主机配置 - 内存增容

文章目录

一、修改云主机配置缘由

  • 在今天的Spark课程中,我们深入学习了数据集和数据帧的操作方法。然而,我注意到云主机的内存几乎被耗尽,这导致了系统运行时的卡顿,有时甚至会导致Spark Shell的强制退出。为了确保课程的顺利进行,我需要对云主机的配置进行调整,特别是增加内存容量,以满足我们学习过程中对计算资源的需求。

二、修改云主机配置步骤

1、查看云主机概述

  • 内存使用情况:20GB用了12GB

2、查看master云主机

  • 云主机类型 - m1.medium

3、更改master云主机配置

  • 更多 ⟶ \longrightarrow ⟶ 配置变更 ⟶ \longrightarrow ⟶ 修改配置
  • 选择云主机类型 - m1.vlarge - 内存8GB
  • 勾选同意强制关机复选框,单击【确定】按钮,正在修改 - 配置/迁移
  • 确认修改配置/迁移
  • 弹出消息框要求用户确认
  • 单击【确定】按钮

4、查看master云主机

  • 云主机类型已成功改成m1.vlarge,8GB运行内存,正常运行中......

三、使用Spark Shell玩Saprk SQL

1、启动HDFS服务

  • 执行命令:start-dfs.sh

2、启动Spark集群

  • 执行命令:start-all.sh

3、启动集群模式Spark Shell

  • 执行命令:spark-shell --master spark://master:7077

4、读取文件生成单例数据帧

  • 执行命令:val df = spark.read.text("hdfs://master:9000/student/input/student.txt")

  • 执行命令:df.show

5、将单列数据帧转换成多列数据帧

scala 复制代码
val stuDF = df
  .withColumn("id", split(col("value"), ",")(0).cast("int"))
  .withColumn("name", split(col("value"), ",")(1))
  .withColumn("gender", split(col("value"), ",")(2))
  .withColumn("age", split(col("value"), ",")(3).cast("int"))
  .drop("value") // 删除原始的 value 列
  • 执行上述命令

  • 执行命令:stuDF.printSchema

  • 执行命令:stuDF.show

6、基于数据帧生成临时视图

  • 执行命令:stuDF.createOrReplaceTempView("student")

7、基于临时视图进行SQL查询

  • 执行命令:spark.sql("select * from student where gender = '女' and age > 20").show
相关推荐
BAOYUCompany4 分钟前
暴雨服务器成功中标华中科技大学集成电路学院服务器采购项目
运维·服务器
怦然星动_27 分钟前
ip网络基础
网络·智能路由器
数据与人工智能律师42 分钟前
数字资产革命中的信任之锚:RWA法律架构的隐形密码
大数据·网络·人工智能·云计算·区块链
鳄鱼皮坡1 小时前
仿muduo库One Thread One Loop式主从Reactor模型实现高并发服务器
运维·服务器
菜包eo1 小时前
二维码驱动的独立站视频集成方案
网络·python·音视频
yzx9910132 小时前
关于网络协议
网络·人工智能·python·网络协议
zsq2 小时前
【网络与系统安全】域类实施模型DTE
网络·安全·系统安全
小Mie不吃饭2 小时前
FastAPI 小白教程:从入门级到实战(源码教程)
运维·服务器
爱奥尼欧3 小时前
【Linux 系统】基础IO——Linux中对文件的理解
linux·服务器·microsoft
戒不掉的伤怀4 小时前
【Navicat 连接MySQL时出现错误1251:客户端不支持服务器请求的身份验证协议;请考虑升级MySQL客户端】
服务器·数据库·mysql