修改云主机配置 - 内存增容

文章目录

一、修改云主机配置缘由

  • 在今天的Spark课程中,我们深入学习了数据集和数据帧的操作方法。然而,我注意到云主机的内存几乎被耗尽,这导致了系统运行时的卡顿,有时甚至会导致Spark Shell的强制退出。为了确保课程的顺利进行,我需要对云主机的配置进行调整,特别是增加内存容量,以满足我们学习过程中对计算资源的需求。

二、修改云主机配置步骤

1、查看云主机概述

  • 内存使用情况:20GB用了12GB

2、查看master云主机

  • 云主机类型 - m1.medium

3、更改master云主机配置

  • 更多 ⟶ \longrightarrow ⟶ 配置变更 ⟶ \longrightarrow ⟶ 修改配置
  • 选择云主机类型 - m1.vlarge - 内存8GB
  • 勾选同意强制关机复选框,单击【确定】按钮,正在修改 - 配置/迁移
  • 确认修改配置/迁移
  • 弹出消息框要求用户确认
  • 单击【确定】按钮

4、查看master云主机

  • 云主机类型已成功改成m1.vlarge,8GB运行内存,正常运行中......

三、使用Spark Shell玩Saprk SQL

1、启动HDFS服务

  • 执行命令:start-dfs.sh

2、启动Spark集群

  • 执行命令:start-all.sh

3、启动集群模式Spark Shell

  • 执行命令:spark-shell --master spark://master:7077

4、读取文件生成单例数据帧

  • 执行命令:val df = spark.read.text("hdfs://master:9000/student/input/student.txt")

  • 执行命令:df.show

5、将单列数据帧转换成多列数据帧

scala 复制代码
val stuDF = df
  .withColumn("id", split(col("value"), ",")(0).cast("int"))
  .withColumn("name", split(col("value"), ",")(1))
  .withColumn("gender", split(col("value"), ",")(2))
  .withColumn("age", split(col("value"), ",")(3).cast("int"))
  .drop("value") // 删除原始的 value 列
  • 执行上述命令

  • 执行命令:stuDF.printSchema

  • 执行命令:stuDF.show

6、基于数据帧生成临时视图

  • 执行命令:stuDF.createOrReplaceTempView("student")

7、基于临时视图进行SQL查询

  • 执行命令:spark.sql("select * from student where gender = '女' and age > 20").show
相关推荐
yuzhangfeng2 分钟前
【云计算物理网络】从传统网络到SDN:云计算的网络演进之路
网络·云计算
TDengine (老段)26 分钟前
TDengine 中的关联查询
大数据·javascript·网络·物联网·时序数据库·tdengine·iotdb
zhu12893035561 小时前
网络安全的现状与防护措施
网络·安全·web安全
wirepuller_king3 小时前
创建Linux虚拟环境并远程连接,finalshell自定义壁纸
linux·运维·服务器
zhu12893035563 小时前
网络安全与防护策略
网络·安全·web安全
Yan-英杰3 小时前
【百日精通JAVA | SQL篇 | 第二篇】数据库操作
服务器·数据库·sql
沫夕残雪3 小时前
HTTP,请求响应报头,以及抓包工具的讨论
网络·vscode·网络协议·http
π2703 小时前
爬虫:网络请求(通信)步骤,http和https协议
网络·爬虫
风123456789~3 小时前
【Linux运维】查询指定日期的上月
linux·运维·服务器
CC.cc.4 小时前
Linux系统之systemctl管理服务及编译安装配置文件安装实现systemctl管理服务
linux·运维·服务器