Flink On Yarn模式部署与验证

session运行模式

该模式下分为2步,即使用yarn-session.sh申请资源,然后 flink run提交任务。

1、申请资源yarn-session.sh

#在server1执行命令

bash 复制代码
/usr/local/flink-1.13.5/bin/yarn-session.sh -tm 1024 -n 2 -s 1 -d

#申请2个CPU、2g内存

-tm 表示每个TaskManager的内存大小

-n 表示申请2个容器,就是多少个taskmanager (新版本该参数省略,根据提交job动态调整)

-s 表示每个TaskManager的slots数量 (新版本该参数省略,根据提交job动态调整)

-d 表示以后台程序方式运行

2、验证yarn ui

yarn链接地址:http://server1:8088/cluster

需要在server1上执行

#多执行几次看看运行情况,或者运行其他的应用也可以

bash 复制代码
/usr/local/flink-1.13.5/bin/flink run  /usr/local/flink-1.13.5/examples/batch/WordCount.jar

bash 复制代码
/usr/local/flink-1.13.5/bin/flink run  -c xx.xx.xx.Main /usr/local/flink-1.13.5/examples/batch/WordCount.jar

4、验证flink提交的任务

通过上方的ApplicationMaster(Tracking UI)可以进入Flink的管理界面

5、关闭yarn-session

bash 复制代码
yarn application -kill application_1688448920799_0001

其它: Flink(二)1.13.5二种部署方式(Standalone、Standalone HA )、四种提交任务方式(前两种及session和per-job)验证详细步骤_一瓢一瓢的饮 alanchan的博客-CSDN博客

相关推荐
Datacarts11 分钟前
AI大模型时代:微店商品数据API如何重构反向海淘决策
大数据·人工智能·重构
ws20190723 分钟前
技术交流与商贸融合,2026广州汽车测试测量展释放产业协同新动能
大数据·人工智能·科技·汽车
运维老曾2 小时前
Flink 自定义数据源开发流程
大数据·flink
BioRunYiXue3 小时前
Nature Methods:CellVoyager 自主 AI 智能体开启生物数据分析新时代
大数据·开发语言·前端·javascript·人工智能·数据挖掘·数据分析
TDengine (老段)4 小时前
TDengine IDMP 工业数据建模 —— 数据标准化
大数据·数据库·物联网·ai·时序数据库·tdengine·涛思数据
AI先驱体验官4 小时前
AI智能体赛道新机遇:2026机会与挑战深度解析
大数据·人工智能·深度学习·重构·aigc
被摘下的星星4 小时前
Hadoop伪分布式集群搭建实验原理概要
大数据·hadoop·分布式
ggabb5 小时前
以色列的科技实力与全球格局分析
大数据·人工智能
Ujimatsu5 小时前
数据分析相关面试题-Python部分
大数据·python·数据分析
Omics Pro5 小时前
空间组学下一代机器学习与深度学习
大数据·人工智能·深度学习·算法·机器学习·语言模型·自然语言处理