spark 常见操作命令

配置虚拟机

配置即让自己的虚拟机可以联网,和别的虚拟机通讯

一、配置vm虚拟机网段。

具体设置为:虚拟机左上角点击编辑→虚拟网络编辑器

选择VMnet8, 要改动两个地方(注意:它会需要管理员权限):

  1. 子网IP改成192.168.10.0

  2. NAT设置 → 192.168.10.2

让所有的VM配置的虚拟机使用NAT时,它们的网段都是一致的。

注意:这里的第三个部分的10并不是固定的,我们自己可以约定,但是约定之后就要固定下来。

二、 配置Windows本地虚拟网卡,让本机也可以访问虚拟机。

具体设置为:选择控制面板 → 网络连接 → VMware network Adapter Vmnet8

点击右键,IP4协议,改成如下:

IP4地址:192.168.10.1

IPV4网关:192.168.10.2

这里要注意一下:VMware net work Adpater VMnet8是安装了Vm这个软件之后会自动产生的。

三、设置虚拟机hadoop100的IP。

具体设置为:进入虚拟机,修改对应的IP。

(1)vi /etc/sysconfig/network-scripts/ifcfg-ens33

通过vi编辑器去修改配置文件(ip地址)

修改完成之后,esc退出编辑模式, :wq 保存退出。

四、重启系统并检查是否能Ping通外网。

重启的命令是reboot,检查是否能Ping通外网。命令是:ping www.baidu.com

reboot 重启。

再登录,通过ping 命令检查是否能连接外网 (若要断开连接按ctrl+c)

(1) 修改主机名称。命令是:vi /etc/hostname

eg:修改打开的文件内容为: hadoop100

注:它不会立马生效,需要重启系统才生效!

(2)配置IP地址和主机名的映射。命令是:vi /etc/hosts

在这个文件的最后一行添加一句:

IP地址 +主机名

eg:192.168.10.100 hadoop100

(3) 最后,关闭服务器的防火墙。对应的命令是:

systemctl stop firewalld

systemctl disable firewalld.service

(4) 重启

reboot

finalShell软件

作用:链接远程VM

一、安装finalShell

二、启动连接VM

相关推荐
Light601 天前
数据要素与数据知识产权交易中心建设专项方案——以领码 SPARK 融合平台为技术底座,构建可评估、可验证、可交易、可监管的数据要素工程体系
大数据·分布式·spark
毕设源码-钟学长2 天前
【开题答辩全过程】以 基于Spark机器学习算法的体育新闻智能分类系统设计与实现为例,包含答辩的问题和答案
算法·机器学习·spark
yumgpkpm3 天前
Cloudera CDP7、CDH5、CDH6 在华为鲲鹏 ARM 麒麟KylinOS做到无缝切换平缓迁移过程
大数据·arm开发·华为·flink·spark·kafka·cloudera
青云交3 天前
Java 大视界 -- Java+Spark 构建企业级用户画像平台:从数据采集到标签输出全流程(437)
java·开发语言·spark·hbase 优化·企业级用户画像·标签计算·高并发查询
qq_12498707533 天前
基于spark的新闻文本分类系统(源码+论文+部署+安装)
大数据·分类·数据挖掘·spark
yumgpkpm3 天前
Iceberg在Cloudera CDP集群详细操作步骤
大数据·人工智能·hive·zookeeper·spark·开源·cloudera
梦里不知身是客114 天前
spark的统一内存管理机制
java·大数据·spark
华阙之梦4 天前
【仅公网互通的 Spark 集群通信与配置实战方案】
大数据·ajax·spark
心止水j4 天前
数据采集-----案例
spark
梦里不知身是客114 天前
RDD分区的设定规则
spark