centos7搭建flink1.18并以 standalone模式启动

版本

组件 版本
scala 2.12.20
java 1.8.0_181
flink 1.18.1

关于scala和Java的安装参考:scala和java安装

flink 下载地址:flink下载链接

集群规划

bigdata01 bigdata02 bigdata03
master
worker worker worker

安装

1.创建存放路径

三个节点都需要操作

sh 复制代码
用于存放安装包: mkdir /home/software/
用于存放存放解压后的模块: mkdir /opt/module/bin/
用于存放模块软链接: mkdir /opt/module/link/

2.上传安装包

三个节点都需要操作

将安装包【flink-1.18.1-bin-scala_2.12.tgz】上传至/home/software/目录下

3.解压 压缩包

三个节点都需要操作

sh 复制代码
tar -zxvf /home/software/flink-1.18.1-bin-scala_2.12.tgz -C /opt/module/bin/

4.修改配置文件

三个节点都需要操作

配置文件路径:/opt/module/bin/flink-1.18.1/conf

修改文件: vi master

添加内容:

sh 复制代码
bigdata01:8081

修改文件: vi workers

添加内容:

sh 复制代码
bigdata01
bigdata02
bigdata03

修改文件: vi flink-conf.yaml

修改内容:

sh 复制代码
jobmanager.rpc.address: bigdata01 # jobmanager地址
jobmanager.bind-host: 0.0.0.0     # jobmanager绑定地址
taskmanager.bind-host: 0.0.0.0    # taskmanager绑定地址
# taskmanager地址,写当前修改文件的节点地址
taskmanager.host: bigdata01       

taskmanager.numberOfTaskSlots: 4   # 任务槽数 ,根据需求填写
parallelism.default: 4  # 并行度 ,根据需求填写
execution.checkpointing.interval: 5000 # checkpoint时间间隔,毫秒
rest.port: 8081              #  REST服务的端口
rest.address: bigdata01      #  REST服务的地址
rest.bind-address: 0.0.0.0   # REST服务的绑定地址

5.启动flink

sh 复制代码
./opt/module/bin/flink-1.18.1/bin/start-cluster.sh

三个节点分别执行jps查看

bigdata01节点出现 【StandaloneSessionClusterEntrypoint】进程

bigdata01,bigdata02,bigdata03节点都出现【TaskManagerRunner】进程

则表示启动成功

访问 http://bigdata01:8081,出现

6.如果启动失败

查看/opt/module/bin/flink-1.18.1/log目录下的最新日志,查看具体错误,针对解决。

相关推荐
大大大大晴天6 小时前
数仓分层架构设计:ODS、DWD、DWS、ADS、DIM 如何各司其职
大数据
东鸿电子Eastron13 小时前
工厂节能降本落地指南:从精准能源计量搭建数字化管理基础
大数据·人工智能·能源·智能电表·能耗管理
吾AI科技13 小时前
基于Tez引擎的 Hive SQL 性能优化 —— 为什么脚本运行越来越慢
大数据·hive·性能优化·tez
P1Browser1 天前
账号触发平台安全审核?拆解标准申诉流程与材料清单
大数据·人工智能·安全·多账号管理·指纹浏览器·账户安全·运营合规
云南新人和数采集团1 天前
云南靠谱软件开发公司选型指南:以昆明新腾科技为例
大数据·人工智能·科技
AllData公司负责人2 天前
AI大模型数据开发底座系列说明书:AllData集成DB-GPT开源项目建设 AI 多模态分析底座,涵盖模态解析/智能大屏/MCP 扩展!
大数据·数据库·人工智能·gpt·数据采集·数据接入·模态解析
wno7042 天前
常用的Git命令清单
大数据·git·elasticsearch
YIN_尹2 天前
【git原理与使用】git基本操作及底层原理(二)
大数据·git·elasticsearch
武子康2 天前
H3-World 写了 CPU offload,为什么还不能保证塞进 48GB?
大数据·人工智能·深度学习
演艺大赏2 天前
Doris 数据导出实战:SeaTunnel、EXPORT 与 OUTFILE 性能对比及 9.5 亿行写入故障复盘
大数据