flink集群搭建 详细教程

一、环境准备

1、准备三台服务器

三台服务器ip

115.120.227.194 jobmanger

123.60.154.232 taskmanger

36.111.173.249 taskmanger

2、给三台主机分别配置主机名

bash 复制代码
#第一台机器
hostnamectl set-hostname hadoop01
 
#第二台机器
hostnamectl set-hostname hadoop02
 
#第三台机器
hostnamectl set-hostname hadoop03

3、给三台服务器配置域名,三台配置一样的

bash 复制代码
#打开配置文件
vim /etc/hosts
 
#文件中添加以下内容
115.120.227.194  hadoop01
123.60.154.232   hadoop02
36.111.173.249   hadoop03
 
#保存文件
:wq!

4、关闭防火墙 三台机器都要操作

bash 复制代码
sudo systemctl stop firewalld

5、创建用户和用户组 三台机器都要操作

bash 复制代码
#创建hadoop用户组
groupadd hadoop
#创建hadoop用户,并归属于hadoop用户组
useradd -m -g hadoop hadoop
#设置hadoop用户密码
passwd hadoop

6、创建安装目录 三台机器都要操作

bash 复制代码
mkdir csn/data
cd csn
chown -R hadoop:hadoop data
#后续所有操作均使用hadoop用户
su - hadoop

7、配置服务器免密登录 三台机器都要操作

bash 复制代码
cd /home/hadoop/.ssh
ssh-keygen -t rsa 
#输入3次回车
#拷贝当前机器ssh公钥信息至另外两台虚拟机
ssh-copy-id hadoop01 #hadoop01需要拷贝至自己机器,不然hdfs-start.sh报错
ssh-copy-id hadoop02
ssh-copy-id hadoop03

5、将包上传到服务器上

二、安装

1、解压安装包 三台都要操作

bash 复制代码
tar -zxvf flink-1.17.2-bin-scala_2.12.tgz

2、修改配置文件 三台都要操作,三台都是以下内容

bash 复制代码
#打开配置文件
vi flink.conf
#修改以下内容
jobmanager.rpc.address: hadoop01
jobmanager.bind-host: 0.0.0.0
taskmanager.bind-host: 0.0.0.0
taskmanager.host: hadoop02,hadoop03
rest.address: hadoop01
rest.bind-address: 0.0.0.0


#修改workers文件 
hadoop02
hadoop03

#修改master文件
hadoop01:8081

3、在第一台机器hadoop01上启动集群

./bin/start-cluster.sh

4、分别在三台机器上查看启动情况

jps

相关推荐
Clownseven5 分钟前
服务器数据安全:利用阿里云OSS/腾讯云COS实现网站数据自动备份
服务器·阿里云·腾讯云
ZeroNews内网穿透7 分钟前
ZeroNews内网穿透安全策略深度解析:构建企业级安全连接体系
java·运维·服务器·网络·python·安全·php
Stanford_110613 分钟前
关于大数据的基础知识(三)——数据安全与合规
大数据·网络·c++·物联网·学习·微信小程序·微信开放平台
不辉放弃18 分钟前
Apache Spark 的结构化流
大数据·数据库·pyspark·伪实时
科大饭桶1 小时前
Linux系统编程Day4-- Linux常用工具(yum与vim)
linux·运维·服务器
G皮T2 小时前
【ELasticsearch】集群故障模拟方案(一):节点宕机、节点离线
大数据·elasticsearch·搜索引擎·集群·高可用·故障模拟·容错能力
@十八子德月生2 小时前
第三阶段—8天Python从入门到精通【itheima】-143节(pyspark实战——数据计算——flatmap方法)
大数据·开发语言·python·数据分析·pyspark·好好学习,天天向上·question answer
字节高级特工2 小时前
线程互斥锁:守护临界区的关键
linux·运维·服务器·c语言
鸿乃江边鸟2 小时前
Starrocks ShortCircuit短路径的调度
大数据·starrocks·sql
TMT星球2 小时前
官宣朱珠成为集团品牌代言人,转转推动二手消费新风尚
大数据·人工智能