Flink搭建

目录

一、standalone模式

[二、Flink on Yarn模式](#二、Flink on Yarn模式)


一、standalone模式

  1. 解压安装Flink

    [root@bigdata1 software]# tar -zxvf flink-1.14.0-bin-scala_2.12.tgz -C /opt/module/
    [root@bigdata1 module]# mv flink-1.14.0/ flink-standalone

2.进入conf修改flink-conf.yaml

复制代码
jobmanager.rpc.address: bigdata1

3.修改wokers

复制代码
[root@bigdata1 conf]# vim workers
bigdata1
bigdata2
bigdata3

4.分发到集群其他节点

复制代码
[root@bigdata1 module]# rsync -av /opt/module/flink-standalone/ bigdata2:/opt/module/flink-standalone/
[root@bigdata1 module]# rsync -av /opt/module/flink-standalone/ bigdata3:/opt/module/flink-standalone/

5.启动Flink集群命令

复制代码
[root@bigdata1 flink-standalone]# bin/start-cluster.sh
复制代码

6.访问http://主机:8081可以对flink集群和任务进行监控

http://bigdata1:8081

7.停止Flink集群命令

复制代码
bin/stop-cluster.sh

1.解压安装

复制代码
[root@bigdata1 software]# tar -zxvf /opt/software/flink-1.14.0-bin-scala_2.12.tgz -C /opt/module/
[root@bigdata1 module]# mv flink-1.14.0/ flink-yarn

2.配置环境变量

vim /etc/profile

复制代码
#配置环境变量HADOOP_CLASSPATH, 如果前面已经配置可以忽略。
#export HADOOP_CLASSPATH=`hadoop classpath`
#FLINK_HOME
export FLINK_HOME=/opt/module/flink-yarn
export PATH=$PATH:$FLINK_HOME/bin
export HADOOP_CLASSPATH=`hadoop classpath`
export HADOOP_CONF_DIR=${HADOOP_HOME}/etc/hadoop

3.启动Hadoop集群

Flink on yarn 基于Hadoop集群的yarn

相关推荐
运维成长记3 分钟前
阿里云实践创建实例步骤
linux·运维·服务器·阿里云·云计算
viperrrrrrrrrr714 分钟前
大数据学习(137)-大数据组件运行时角色
大数据·hive·学习·flink·spark
THe CHallEnge of THe BrAve18 分钟前
Linux检验库是否安装成功
linux·运维·服务器
Leo.yuan1 小时前
数据挖掘是什么?数据挖掘技术有哪些?
大数据·数据库·人工智能·数据挖掘·数据分析
算家计算1 小时前
告别复杂文档解析噩梦!MonkeyOCR 本地部署教程:支持公式/表格多元素结构化
linux·人工智能·开源
Mikhail_G1 小时前
数据分析入门初解
大数据·运维·开发语言·python·数据分析
希艾席帝恩2 小时前
从传统楼盘到智慧空间:数字孪生的地产赋能之路
大数据·运维·服务器·人工智能·数字孪生·云渲染
曹勖之2 小时前
ROS2 工作空间中, CMakeLists.txt, setup.py和 package.xml的作用分别是?
xml·linux·服务器·ros2
阿里云大数据AI技术2 小时前
DistilQwen-ThoughtX蒸馏模型在PAI-ModelGallery的训练、评测、压缩及部署实践
大数据·开源·llm
企鹅侠客2 小时前
ttyd:安全地通过网络共享您的 Linux 终端
linux·运维·ttyd