生产环境下,应用模式部署flink任务,通过hdfs提交

前言

  通过通过yarn.provided.lib.dirs配置选项指定位置,将flink的依赖上传到hdfs文件管理系统


1. 实践

  (1)生产集群为cdh集群,从cm上下载配置文件,设置环境

bash 复制代码
export HADOOP_CONF_DIR=/home/conf/auth
export HADOOP_CLASSPATH=`hadoop classpath`

  (2)上传flink的lib和plugins、自己的jar包到hdfs上

bash 复制代码
hdfs dfs -put lib/ /flink-dist
hdfs dfs -put plugins/ /flink-dist
hdfs dfs -put examples/FlinkTutorial-1.17-1.0-SNAPSHOT.jar  /flink-jars

  (3)提交作业

bash 复制代码
bin/flink run-application -t yarn-application -Dyarn.provided.lib.dirs="hdfs://nameservice1/flink-dist" -c com.hex.wc.WordCountStreamUnboundedDemo  hdfs://nameservice1/flink-jars/FlinkTutorial-1.17-1.0-SNAPSHOT.jar

相关推荐
tonyabasy17 小时前
Flink 实时数仓开发实战:SQL中也能做到资源精细化管理
flink
大大大大晴天1 天前
浅聊Flink实时关联计算的不适用场景
flink
大大大大晴天2 天前
深入解析 Flink Kafka Connector:原理、配置与最佳实践
flink
OceanBase数据库官方博客9 天前
OceanBase + Flink 数据集成(第二部分):通过 JDBC 协议实现实时数据同步
大数据·flink·oceanbase
Volunteer Technology9 天前
Flink Table API与SQL(一)
大数据·sql·flink
大大大大晴天️9 天前
Flink Connector Formats深度解析:从原理到实践
大数据·flink
大大大大晴天9 天前
Flink Connector Formats深度解析:从原理到实践
flink
Volunteer Technology9 天前
Flink Table API与SQL(二)
大数据·数据库·flink
Justice Young10 天前
Flink第六章:flink中的时间和窗口
大数据·flink
Volunteer Technology10 天前
Flink状态管理与容错(一)
大数据·数据库·flink