十、flume的安装

1.解压

2.改名

3.修改权限

4.编辑环境变量并source

export FLUME_HOME=/usr/local/flume

export PATH=PATH:JAVA_HOME/bin:HADOOP_HOME/bin:HADOOP_HOME/sbin:HIVE_HOME/bin:HBASE_HOME/bin:SQOOP_HOME/bin:PIG_HOME/bin:$FLUME_HOME/bin

5.配置

6.查看版本

7.启动Hadoop

8.创建smple文件夹在此文件夹下创建a2.conf

a2.sources = r1

a2.channels = c1

a2.sinks = k1

a2.sources.r1.type = exec

a2.sources.r1.command = tail -F /simple/data.txt

a2.channels.c1.type = memory

a2.channels.c1.capacity = 1000

a2.channels.c1.transactionCapacity = 100

a2.sinks.k1.type = hdfs

a2.sinks.k1.hdfs.path = hdfs://master:9000/flume/date_hdfs.txt

a2.sinks.k1.hdfs.filePrefix = events-

a2.sinks.k1.hdfs.fileType = DataStream

a2.sources.r1.channels = c1

a2.sinks.k1.channel = c1

data.txt

(a,1,2,3,4.2,9.8)

(a,3,0,5,3.5,2.1)

(b,7,9,9,-,-)

(a,7,9,9,2.6,6.2)

(a,1,2,5,7.7,5.9)

(a,1,2,3,1.4,0.2)

9.启动flume

flume-ng agent -n a2 -f /simple/a2.conf -c ../conf/ -Dflume.root.logger=INFO,console

10. 查看

相关推荐
Lumistory12 分钟前
照明工程落地效果评判与改造的实践参考
大数据·人工智能·光照贴图
AI风控技术指南25 分钟前
大模型安全围栏厂商评估:以数美科技为例拆解能力、架构和 POC 指标
大数据·网络·人工智能
snpgroupcn42 分钟前
SAP ECC 维护 2027 年到期:企业还能否继续使用旧系统
大数据
广西生活网1 小时前
品牌战略全面升级 原广西生活网正式更名为旭成网
大数据·生活
小刘快学习1 小时前
职业教育机构的题库答疑与学情分析,模型账怎么算清
大数据·人工智能
江瀚视野1 小时前
AperData销量2天破万,五一视界未来何在?
大数据·人工智能
时代分流2 小时前
从新华网教育论坛视角看:后浪教育设计课程如何对接产业实践
大数据·人工智能
jikemaoshiyanshi2 小时前
云上 AI 网关如何基于上下文、缓存、负载实现智能调度?——AWS 双层网关架构优化大规模推理效率
大数据·人工智能
大菠萝爱上小西瓜2 小时前
【大数据实战】Spark 2.2.2 完全分布式集群搭建
大数据·分布式·spark
陈天伟教授2 小时前
【30天学会机械制图】项目一 从平面图形开始 任务1 按标准来画图,都懂你!
大数据·人工智能·平面·机器人·具身智能机器人技术