Flume 安装与部署

目录

Flume 下载地址

(1)将 apache-flume-1.9.0-bin.tar.gz 上传到 linux 的 /opt/software 目录下

(2)解压 apache-flume-1.9.0-bin.tar.gz/opt/module/ 目录下

powershell 复制代码
huwei@hadoop101 ~]$ tar -zxvf /opt/software/apache-flume-1.9.0-bin.tar.gz -C /opt/module/

(3)修改 apache-flume-1.9.0-bin 的名称为 flume-1.9.0

powershell 复制代码
huwei@hadoop101 ~]$ cd /opt/module
[huwei@hadoop101 module]$ mv apache-flume-1.9.0-bin/ flume-1.9.0

(4)配置环境变量

powershell 复制代码
[huwei@hadoop101 module]$ sudo vim /etc/profile.d/my_env.sh

添加如下内容

复制代码
# Flume
export FLUME_HOME=/opt/module/flume-1.9.0
export PATH=$PATH:$FLUME_HOME/bin

保存退出,使环境变量生效

powershell 复制代码
[huwei@hadoop101 module]$ source /etc/profile

(5)将lib文件夹下的 guava-11.0.2.jar 删除以兼容Hadoop 3.1.3

由于前面 大数据技术学习笔记(二)------ Hadoop 运行环境的搭建,我安装的 Hadoop 版本是 3.1.3 ,这与 guava-11.0.2.jar 版本不兼容,删除以避免后续报错。

虽然删除了。但是这并不影响 Flume 的运行,因为系统会自动找到 Hadoop 中自带的兼容版本的 guava jar包。

powershell 复制代码
[huwei@hadoop101 lib]$ cd /opt/module/flume-1.9.0/lib/
[huwei@hadoop101 lib]$ rm guava-11.0.2.jar
相关推荐
大大大大晴天7 小时前
Hudi技术内幕:RecordPayload到RecordMerger
大数据
SelectDB1 天前
秒级弹性、最高降本 70%:SelectDB Serverless 如何重塑云数仓资源效率
大数据·后端·云原生
WhoAmI1 天前
MapReduce框架原理解析一:InputFormat
大数据·hadoop
WhoAmI1 天前
MapReduce框架原理解析三:OutputFormat
大数据·hadoop
WhoAmI1 天前
MapReduce框架原理解析二:Shuffle
大数据·hadoop
大大大大晴天2 天前
Hudi技术内幕:Key Generation原理与实践
大数据
得物技术5 天前
从埋点需求到规则资产:Hermes Agent 重构得物数仓工作流
大数据·llm·ai编程
久美子5 天前
AI驱动数仓建设的Harness工程实践——本体建模、知识分层与上下文工程
大数据
大树886 天前
金刚石散热越强,管路越先见顶
大数据·运维·服务器·人工智能·ai
大志哥1236 天前
ES和Logstash日志链路系统上线后遭遇切片爆炸(解决)
大数据·elasticsearch