spark 常见操作命令

配置虚拟机

配置即让自己的虚拟机可以联网,和别的虚拟机通讯

一、配置vm虚拟机网段。

具体设置为:虚拟机左上角点击编辑→虚拟网络编辑器

选择VMnet8, 要改动两个地方(注意:它会需要管理员权限):

  1. 子网IP改成192.168.10.0

  2. NAT设置 → 192.168.10.2

让所有的VM配置的虚拟机使用NAT时,它们的网段都是一致的。

注意:这里的第三个部分的10并不是固定的,我们自己可以约定,但是约定之后就要固定下来。

二、 配置Windows本地虚拟网卡,让本机也可以访问虚拟机。

具体设置为:选择控制面板 → 网络连接 → VMware network Adapter Vmnet8

点击右键,IP4协议,改成如下:

IP4地址:192.168.10.1

IPV4网关:192.168.10.2

这里要注意一下:VMware net work Adpater VMnet8是安装了Vm这个软件之后会自动产生的。

三、设置虚拟机hadoop100的IP。

具体设置为:进入虚拟机,修改对应的IP。

(1)vi /etc/sysconfig/network-scripts/ifcfg-ens33

通过vi编辑器去修改配置文件(ip地址)

修改完成之后,esc退出编辑模式, :wq 保存退出。

四、重启系统并检查是否能Ping通外网。

重启的命令是reboot,检查是否能Ping通外网。命令是:ping www.baidu.com

reboot 重启。

再登录,通过ping 命令检查是否能连接外网 (若要断开连接按ctrl+c)

(1) 修改主机名称。命令是:vi /etc/hostname

eg:修改打开的文件内容为: hadoop100

注:它不会立马生效,需要重启系统才生效!

(2)配置IP地址和主机名的映射。命令是:vi /etc/hosts

在这个文件的最后一行添加一句:

IP地址 +主机名

eg:192.168.10.100 hadoop100

(3) 最后,关闭服务器的防火墙。对应的命令是:

systemctl stop firewalld

systemctl disable firewalld.service

(4) 重启

reboot

finalShell软件

作用:链接远程VM

一、安装finalShell

二、启动连接VM

相关推荐
WL_Aurora5 小时前
大数据技术之SparkCore
大数据·前端·spark·rdd
WL_Aurora7 小时前
Scala核心编程(一):Scala语言概述与快速入门
spark·scala
曾阿伦8 小时前
Spark2 序列化解析:JavaSerializer vs KryoSerializer
spark
KaMeidebaby11 小时前
卡梅德生物技术快报|适配体筛选技术架构演进:SPARK-seq 高通量平台原理与技术流程解析
大数据·前端·其他·百度·架构·spark·新浪微博
元拓数智1 天前
智能分析落地卡壳?先补好「数据关系+语义治理」这层技术基建
大数据·分布式·ai·spark·数据关系·语义治理
QQ12958455041 天前
FERP50 - Excel以存储过程方式访问数据仓库
数据仓库·spark·excel
旺仔Sec1 天前
Spark 从入门到部署:核心模块解析与 Yarn 模式实战指南
大数据·分布式·spark
weixin_553654483 天前
如何看待 2026 年 Google I/O 大会发布的 Gemini Spark?
大数据·人工智能·分布式·spark
您^_^4 天前
专家(二):Claude Code 数据工程实战:dbt + Airflow + Spark 全流程,$0.22 搭完电商分析管道
大数据·分布式·spark·claudecode·claude code全栈
zhojiew5 天前
在EMR集群中使用Spark MCP服务构建Strands Agent进行故障排查的实践
大数据·spark