flink集群的安装部署

flink集群的安装部署

flink集群是以hadoop集群为基础的,所以先要搭建hadoop集群(参看前文:hadoop集群搭建)

环境规划

IP HOSTNAME 性质
192.168.101.191 hadoop191 master
192.168.101.192 hadoop192 slave
192.168.101.193 hadoop193 slave

一、下载安装

下载地址(以1.20.0为例):https://mirrors.tuna.tsinghua.edu.cn/apache/flink/flink-1.20.0/ 下载flink-1.20.0-bin-scala_2.12.tgz

分别上传到 3台服务器的/opt/module/flink/目录,解压:tar -zxvf flink-1.20.0-bin-scala_2.12.tgz

二、修改配置文件

vim /home/data/flink/flink-1.20.0/conf/config.yaml

hadoop191的配置如下:

powershell 复制代码
jobmanager:
  # 允许访问的ip
  bind-host: 0.0.0.0
  rpc:
  	# master服务器的hostname,3台机器都配置hadoop191
    address: hadoop191
    port: 6123
  memory:
    process:
       size: 1600m
  execution:
     failover-strategy: region
taskmanager:
	# 任务节点,允许访问ip
  bind-host: 0.0.0.0
  # 任务节点的主机名,每台机器填自己的主机名
  host: hadoop191
  numberOfTaskSlots: 6
  memory:
    process:
          size: 1728m
parallelism:
  default: 4
rest:
  address: localhost
  # 允许web访问的ip,仅修改hadoop191,浏览器也只访问此台
  bind-address: 0.0.0.0

hadoop192、hadoop193的配置,仅taskmanager.host各自填自己的主机名,不修改rest.address,

其他与master保持一致即可

三、修改主从

在目录 /opt/module/flink/flink-1.20.0/conf下修改:

vim masters

写入:hadoop191:8081

vim workers

写入:

hadoop191

hadoop192

hadoop193

分发到另外两台机器,3台机器的masters与workers是一致的

四、权限修改

分别在3台机器的目录:/opt/module/flink 执行: chown -R hadoop:hadoop flink-1.20.0

五、免密访问

我的3台机器,的hadoop账号设置了免密访问(参考hadoop集群搭建的1.4)

六、编写启动脚本

在 /home/hadoop/bin目录下执行 vim flink.sh

powershell 复制代码
#!/bin/bash
if [ $# -lt 1 ]
then
 echo "No Args Input..."
 exit ;
fi
case $1 in
"start")
 echo " =================== 启动 flink 集群 ==================="
 ssh hadoop191 "/opt/module/flink/flink-1.20.0/bin/start-cluster.sh"

;;
"stop")
 echo " =================== 关闭 flink 集群 ==================="
 ssh hadoop191 "/opt/module/flink/flink-1.20.0/bin/stop-cluster.sh"

;;
*)
 echo "Input Args Error..."
;;
esac

授权与改变归属:
chmod +x flink.sh
chown -R hadoop:hadoop flink.sh

七、启动

用hadoop用户执行: sh flink.sh start

八、浏览器访问

http://192.168.101.191:8081/

相关推荐
小飞象—木兮7 分钟前
《电商运营分析手册》:定义、价值、产品规划与定价策略、指标体系与公式详解、电商运营框架、运营思维与经营复盘···(附相关材料下载)
大数据·人工智能·产品运营
jkyy20149 分钟前
赋能TOB端|以智能科技,筑牢糖尿病慢病精细化管理防线
大数据·人工智能·健康医疗
蓝眸少年CY12 分钟前
什么是 -大数据
大数据
新新学长搞科研27 分钟前
【CCF主办 | 高认可度会议】第六届人工智能、大数据与算法国际学术会议(CAIBDA 2026)
大数据·开发语言·网络·人工智能·算法·r语言·中国计算机学会
Cx330❀2 小时前
从零实现Shell命令行解释器:原理与实战(附源码)
大数据·linux·数据库·人工智能·科技·elasticsearch·搜索引擎
岱宗夫up2 小时前
.env 文件是干啥的?为什么不能提交到 Git?
大数据·git·elasticsearch·搜索引擎·gitee·github·gitcode
Guheyunyi11 小时前
智能守护:视频安全监测系统的演进与未来
大数据·人工智能·科技·安全·信息可视化
发哥来了12 小时前
主流AI视频生成商用方案选型评测:五大核心维度对比分析
大数据·人工智能
数研小生12 小时前
做京东评论分析系统11年,京东评论数据接口解析
大数据
金融小师妹13 小时前
基于LSTM-GARCH-EVT混合模型的贵金属极端波动解析:黄金白银双双反弹的逻辑验证
大数据·人工智能·深度学习·机器学习