生产环境下,应用模式部署flink任务,通过hdfs提交

前言

  通过通过yarn.provided.lib.dirs配置选项指定位置,将flink的依赖上传到hdfs文件管理系统


1. 实践

  (1)生产集群为cdh集群,从cm上下载配置文件,设置环境

bash 复制代码
export HADOOP_CONF_DIR=/home/conf/auth
export HADOOP_CLASSPATH=`hadoop classpath`

  (2)上传flink的lib和plugins、自己的jar包到hdfs上

bash 复制代码
hdfs dfs -put lib/ /flink-dist
hdfs dfs -put plugins/ /flink-dist
hdfs dfs -put examples/FlinkTutorial-1.17-1.0-SNAPSHOT.jar  /flink-jars

  (3)提交作业

bash 复制代码
bin/flink run-application -t yarn-application -Dyarn.provided.lib.dirs="hdfs://nameservice1/flink-dist" -c com.hex.wc.WordCountStreamUnboundedDemo  hdfs://nameservice1/flink-jars/FlinkTutorial-1.17-1.0-SNAPSHOT.jar

相关推荐
段一凡-华北理工大学17 小时前
工业领域的Hadoop架构学习~系列文章08:Flink流处理引擎
人工智能·hadoop·学习·架构·flink·高炉炼铁·高炉炼铁智能化
Volunteer Technology17 小时前
Flink的函数接口与富函数类
大数据·flink
Volunteer Technology18 小时前
Flink编程模型与API(四)
大数据·flink
大大大大晴天️2 天前
告别数据重复与丢失:Flink Exactly-Once 原理解析
大数据·flink
Volunteer Technology2 天前
Flink编程模型与API(二)
大数据·数据库·flink
大大大大晴天2 天前
告别数据重复与丢失:Flink Exactly-Once 原理解析
flink
白露与泡影2 天前
告别OOM焦虑:Flink 内存模型原理与诊断调优
大数据·flink
阿里云大数据AI技术2 天前
优路教育借助阿里云Flink+StarRocks+Paimon湖仓一体化构建职业教育业务全链路实时数据服务平台
人工智能·flink
愤怒的苹果ext2 天前
Flink同步到ES时间遇到的问题
elasticsearch·flink·时间