Flink搭建

目录

一、standalone模式

[二、Flink on Yarn模式](#二、Flink on Yarn模式)


一、standalone模式

  1. 解压安装Flink

    [root@bigdata1 software]# tar -zxvf flink-1.14.0-bin-scala_2.12.tgz -C /opt/module/
    [root@bigdata1 module]# mv flink-1.14.0/ flink-standalone

2.进入conf修改flink-conf.yaml

复制代码
jobmanager.rpc.address: bigdata1

3.修改wokers

复制代码
[root@bigdata1 conf]# vim workers
bigdata1
bigdata2
bigdata3

4.分发到集群其他节点

复制代码
[root@bigdata1 module]# rsync -av /opt/module/flink-standalone/ bigdata2:/opt/module/flink-standalone/
[root@bigdata1 module]# rsync -av /opt/module/flink-standalone/ bigdata3:/opt/module/flink-standalone/

5.启动Flink集群命令

复制代码
[root@bigdata1 flink-standalone]# bin/start-cluster.sh
复制代码

6.访问http://主机:8081可以对flink集群和任务进行监控

http://bigdata1:8081

7.停止Flink集群命令

复制代码
bin/stop-cluster.sh

1.解压安装

复制代码
[root@bigdata1 software]# tar -zxvf /opt/software/flink-1.14.0-bin-scala_2.12.tgz -C /opt/module/
[root@bigdata1 module]# mv flink-1.14.0/ flink-yarn

2.配置环境变量

vim /etc/profile

复制代码
#配置环境变量HADOOP_CLASSPATH, 如果前面已经配置可以忽略。
#export HADOOP_CLASSPATH=`hadoop classpath`
#FLINK_HOME
export FLINK_HOME=/opt/module/flink-yarn
export PATH=$PATH:$FLINK_HOME/bin
export HADOOP_CLASSPATH=`hadoop classpath`
export HADOOP_CONF_DIR=${HADOOP_HOME}/etc/hadoop

3.启动Hadoop集群

Flink on yarn 基于Hadoop集群的yarn

相关推荐
一颗青果6 小时前
HTTP协议详解
linux·网络·网络协议·http
广州灵眸科技有限公司9 小时前
瑞芯微(EASY EAI)RV1126B CAN使用
linux·网络·单片机·嵌入式硬件
数据猿9 小时前
【金猿CIO展】上海虹迪物流科技有限公司董事长兼CIO张鹏飞:聚焦数字化核心——物流供应链的的智慧演进之路
大数据·科技
deepdata_cn9 小时前
“深数据” vs “大数据”
大数据·bigdata·深数据·deepdata
魂万劫11 小时前
如何在虚拟机VM上|Linux环境内安装windows
linux·运维·服务器·windows
序属秋秋秋11 小时前
《Linux系统编程之进程控制》【进程等待】
linux·c语言·c++·进程·系统编程·进程控制·进程等待
zfj32111 小时前
top 命令中的 wa (IO wait) 指标,理论上几乎完全是由磁盘IO(包括swap)引起的,而不是网络IO
linux·网络·top·iowait
Xの哲學11 小时前
Linux网卡注册流程深度解析: 从硬件探测到网络栈
linux·服务器·网络·算法·边缘计算
数字化转型202512 小时前
SAP Signavio 在风机制造行业的深度应用研究
大数据·运维·人工智能
用户61354114601612 小时前
libicu-62.1-6.ky10.x86_64.rpm 安装步骤详解(麒麟V10系统)
linux