flume安装配置

文章目录

  • flume安装配置
    • 1.下载
    • 2.安装
    • 3.案例
      • [3.1.安装 netcat 工具](#3.1.安装 netcat 工具)
      • [3.2.创建 Flume Agent](#3.2.创建 Flume Agent)
      • [3.3.开启 flume](#3.3.开启 flume)
      • [3.4.使用 netcat 工具](#3.4.使用 netcat 工具)

flume安装配置

1.下载

https://archive.apache.org/dist/flume/1.7.0/apache-flume-1.7.0-bin.tar.gz

2.安装

shell 复制代码
# 解压
tar -zxvf apache-flume-1.7.0-bin.tar.gz 

#配置flume-java环境
cd apache-flume-1.7.0-bin/conf
mv flume-env.sh.template flume-env.sh
vim flume-env.sh 
export JAVA_HOME=/opt/sorftware/jdk1.8.0_221

#配置flume环境
vim ~/.bashrc 
export FLUME_HOME=/opt/sorftware/apache-flume-1.7.0-bin/
export PATH=$FLUME_HOME/bin:$PATH

3.案例

使用 Flume 监听一个端口,收集该端口数据,并打印到控制台。

3.1.安装 netcat 工具

判断 44444 端口是否被占用

复制代码
sudo yum  install -y  nc
sudo netstat -tunlp |  grep 44444

3.2.创建 Flume Agent

配置文件 flume-netcat-logger.conf

复制代码
# Name the components on this agent
a1.sources = r1
a1.sinks = k1
a1.channels = c1
 
# Describe/configure the source
a1.sources.r1.type = netcat
a1.sources.r1.bind = localhost
a1.sources.r1.port = 44444
 
# Describe the sink
a1.sinks.k1.type = logger
 
# Use a channel which buffers events in memory
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100
 
# Bind the source and sink to the channel
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

3.3.开启 flume

监听端口

复制代码
bin/flume-ng agent --conf conf/ --name a1 --conf-file jobtest/nc-flume-logger.conf -Dflume.root.logger=INFO,console

--conf/-c:表示配置文件存储在 conf/目录
--name/-n:表示给 agent 起名为 a1
--conf-file/-f:flume 本次启动读取的配置文件是在 job 文件夹下的 flume-telnet.conf
-Dflume.root.logger=INFO,console :-D 表示 flume 运行时动态修改 flume.root.logger参数属性值,并将控制台日志打印级别设置为 INFO 级别。日志级别包括:log、info、warn、error。

3.4.使用 netcat 工具

向本机的 44444 端口发送内容,在 Flume 监听页面观察接收数据情况

复制代码
nc localhost 44444
相关推荐
Agatha方艺璇28 分钟前
CentOS7 Hive2.3.8 安装图文教程
大数据·数据库
云手机掌柜1 小时前
下一代社媒运营工具:亚矩阵云手机集成AIGC与数字人技术引领内容革命
大数据·线性代数·智能手机·矩阵·aigc
上海锝秉工控2 小时前
超声波风向传感器:以科技之翼,捕捉风的每一次呼吸
大数据·人工智能·科技
在未来等你5 小时前
Elasticsearch面试精讲 Day 13:索引生命周期管理ILM
大数据·分布式·elasticsearch·搜索引擎·面试
Elastic 中国社区官方博客6 小时前
Elasticsearch:智能搜索的 MCP
大数据·人工智能·elasticsearch·搜索引擎·全文检索
未来之窗软件服务8 小时前
浏览器开发CEFSharp+X86 (十六)网页读取电子秤数据——仙盟创梦IDE
大数据·智能硬件·浏览器开发·仙盟创梦ide·东方仙盟·东方仙盟网页调用sdk
阿豪311 小时前
2025 年职场转行突围:除实习外,这些硬核证书让你的简历脱颖而出(纯经验分享)
大数据·人工智能·经验分享·科技·信息可视化·产品经理
张驰课堂11 小时前
老树发新芽:六西格玛培训为石油机械制造注入持久活力
大数据·人工智能·制造
卡卡_R-Python11 小时前
大数据探索性分析——抽样技术应用
大数据·r
伍哥的传说11 小时前
Lodash-es 完整开发指南:ES模块化JavaScript工具库实战教程
大数据·javascript·elasticsearch·lodash-es·javascript工具库·es模块·按需导入