日志平台搭建第六章:logstash通过kafka通道采集日志信息

1.修改文件/opt/app/elk/logstash-7.5.1/config.d/config1.conf,在input下添加kafka采集配置

复制代码
#192.168.128.130:9103:kafka地址
#topics:主题
kafka {
 bootstrap_servers => ["192.168.128.130:9103"]
 group_id => "logstash"
 topics => ["demo"]
 consumer_threads => 1
 decorate_events => true
 add_field => {"from" => "demo"}
}

修改完配置文件后,不需要手动重启,因为之前在启动logstash时,配置了以下内容

kafka消息发送端发送消息

复制代码
#进入kafka容器
docker exec -it kafka sh
 
#进入到/opt/kafka/bin目录
cd /opt/kafka/bin

#启动消息发送端
./kafka-console-producer.sh --broker-list localhost:9092 --topic demo

logstash控制台会输出以下内容

kibana服务中查询出es的mylog索引中会采集到kafka的信息

相关推荐
xiaobaishuoAI18 小时前
分布式事务实战(Seata 版):解决分布式系统数据一致性问题(含代码教学)
大数据·人工智能·分布式·深度学习·wpf·geo
这儿有个昵称1 天前
互联网大厂Java面试场景:从Spring框架到微服务架构的提问解析
java·spring boot·微服务·kafka·grafana·prometheus·数据库优化
程序猿阿伟1 天前
《异步分布式训练提速关键:梯度压缩的收敛稳定性操控指南》
分布式
廋到被风吹走1 天前
【数据库】【MongoDB】全栈深度指南:文档模型到分布式集群
数据库·分布式·mongodb
陌路201 天前
RPC分布式通信(3)--RPC基础框架接口
分布式·网络协议·rpc
陌路201 天前
RPC分布式通信(1)--分布式通信讲解
分布式·网络协议·rpc
西***63471 天前
三大一体化音视频管理平台:技术特性与场景落地全解析
分布式
少许极端1 天前
Redis入门指南(六):从零到分布式缓存-数据持久化与事务
redis·分布式·缓存·事务·持久化
陈震_1 天前
分布式解决方案
分布式
Leon-zy1 天前
Redis7.4.5集群部署3主3从
redis·分布式·缓存·云原生