Flume 安装与部署

目录

Flume 下载地址

(1)将 apache-flume-1.9.0-bin.tar.gz 上传到 linux 的 /opt/software 目录下

(2)解压 apache-flume-1.9.0-bin.tar.gz/opt/module/ 目录下

powershell 复制代码
huwei@hadoop101 ~]$ tar -zxvf /opt/software/apache-flume-1.9.0-bin.tar.gz -C /opt/module/

(3)修改 apache-flume-1.9.0-bin 的名称为 flume-1.9.0

powershell 复制代码
huwei@hadoop101 ~]$ cd /opt/module
[huwei@hadoop101 module]$ mv apache-flume-1.9.0-bin/ flume-1.9.0

(4)配置环境变量

powershell 复制代码
[huwei@hadoop101 module]$ sudo vim /etc/profile.d/my_env.sh

添加如下内容

复制代码
# Flume
export FLUME_HOME=/opt/module/flume-1.9.0
export PATH=$PATH:$FLUME_HOME/bin

保存退出,使环境变量生效

powershell 复制代码
[huwei@hadoop101 module]$ source /etc/profile

(5)将lib文件夹下的 guava-11.0.2.jar 删除以兼容Hadoop 3.1.3

由于前面 大数据技术学习笔记(二)------ Hadoop 运行环境的搭建,我安装的 Hadoop 版本是 3.1.3 ,这与 guava-11.0.2.jar 版本不兼容,删除以避免后续报错。

虽然删除了。但是这并不影响 Flume 的运行,因为系统会自动找到 Hadoop 中自带的兼容版本的 guava jar包。

powershell 复制代码
[huwei@hadoop101 lib]$ cd /opt/module/flume-1.9.0/lib/
[huwei@hadoop101 lib]$ rm guava-11.0.2.jar
相关推荐
武子康26 分钟前
大数据-100 Spark DStream 转换操作全面总结:map、reduceByKey 到 transform 的实战案例
大数据·后端·spark
expect7g1 小时前
Flink KeySelector
大数据·后端·flink
阿里云大数据AI技术17 小时前
StarRocks 助力数禾科技构建实时数仓:从数据孤岛到智能决策
大数据
Lx3521 天前
Hadoop数据处理优化:减少Shuffle阶段的性能损耗
大数据·hadoop
武子康1 天前
大数据-99 Spark Streaming 数据源全面总结:原理、应用 文件流、Socket、RDD队列流
大数据·后端·spark
阿里云大数据AI技术2 天前
大数据公有云市场第一,阿里云占比47%!
大数据
Lx3522 天前
Hadoop容错机制深度解析:保障作业稳定运行
大数据·hadoop
T06205142 天前
工具变量-5G试点城市DID数据(2014-2025年
大数据
向往鹰的翱翔2 天前
BKY莱德因:5大黑科技逆转时光
大数据·人工智能·科技·生活·健康医疗
鸿乃江边鸟2 天前
向量化和列式存储
大数据·sql·向量化