centos7搭建flink1.18并以 standalone模式启动

版本

组件 版本
scala 2.12.20
java 1.8.0_181
flink 1.18.1

关于scala和Java的安装参考:scala和java安装

flink 下载地址:flink下载链接

集群规划

bigdata01 bigdata02 bigdata03
master
worker worker worker

安装

1.创建存放路径

三个节点都需要操作

sh 复制代码
用于存放安装包: mkdir /home/software/
用于存放存放解压后的模块: mkdir /opt/module/bin/
用于存放模块软链接: mkdir /opt/module/link/

2.上传安装包

三个节点都需要操作

将安装包【flink-1.18.1-bin-scala_2.12.tgz】上传至/home/software/目录下

3.解压 压缩包

三个节点都需要操作

sh 复制代码
tar -zxvf /home/software/flink-1.18.1-bin-scala_2.12.tgz -C /opt/module/bin/

4.修改配置文件

三个节点都需要操作

配置文件路径:/opt/module/bin/flink-1.18.1/conf

修改文件: vi master

添加内容:

sh 复制代码
bigdata01:8081

修改文件: vi workers

添加内容:

sh 复制代码
bigdata01
bigdata02
bigdata03

修改文件: vi flink-conf.yaml

修改内容:

sh 复制代码
jobmanager.rpc.address: bigdata01 # jobmanager地址
jobmanager.bind-host: 0.0.0.0     # jobmanager绑定地址
taskmanager.bind-host: 0.0.0.0    # taskmanager绑定地址
# taskmanager地址,写当前修改文件的节点地址
taskmanager.host: bigdata01       

taskmanager.numberOfTaskSlots: 4   # 任务槽数 ,根据需求填写
parallelism.default: 4  # 并行度 ,根据需求填写
execution.checkpointing.interval: 5000 # checkpoint时间间隔,毫秒
rest.port: 8081              #  REST服务的端口
rest.address: bigdata01      #  REST服务的地址
rest.bind-address: 0.0.0.0   # REST服务的绑定地址

5.启动flink

sh 复制代码
./opt/module/bin/flink-1.18.1/bin/start-cluster.sh

三个节点分别执行jps查看

bigdata01节点出现 【StandaloneSessionClusterEntrypoint】进程

bigdata01,bigdata02,bigdata03节点都出现【TaskManagerRunner】进程

则表示启动成功

访问 http://bigdata01:8081,出现

6.如果启动失败

查看/opt/module/bin/flink-1.18.1/log目录下的最新日志,查看具体错误,针对解决。

相关推荐
risc1234561 小时前
【Elasticsearch】中数据流需要配置索引模板吗?
大数据·elasticsearch·jenkins
JackieZhengChina2 小时前
新一代搜索引擎,是 ES 的15倍?
大数据·elasticsearch·搜索引擎
weixin_307779134 小时前
PyDeequ库在AWS EMR启动集群中数据质量检查功能的配置方法和实现代码
大数据·python·spark·云计算·aws
Elastic 中国社区官方博客10 小时前
Elastic Cloud Serverless 获得主要合规认证
大数据·数据库·elasticsearch·搜索引擎·云原生·serverless·全文检索
梦醒沉醉10 小时前
MapReduce简单应用(一)——WordCount
大数据·mapreduce
好记性+烂笔头11 小时前
7 Spark 底层执行原理
大数据·ajax·spark
Archie_IT11 小时前
基于云计算、大数据与YOLO设计的火灾/火焰目标检测
大数据·人工智能·yolo·目标检测·云计算
字节全栈_vBr13 小时前
Flink Forward Asia 2024 - 总结和展望(附PPT下载链接)
大数据·flink
985小水博一枚呀13 小时前
【论文推荐|深度学习,滑坡检测,多光谱影像,自然灾害,遥感】2022年Landslide4Sense竞赛成果:基于多源卫星影像的先进滑坡检测算法研究(五)
大数据·人工智能·深度学习·算法·cnn