日志平台搭建第六章:logstash通过kafka通道采集日志信息

1.修改文件/opt/app/elk/logstash-7.5.1/config.d/config1.conf,在input下添加kafka采集配置

复制代码
#192.168.128.130:9103:kafka地址
#topics:主题
kafka {
 bootstrap_servers => ["192.168.128.130:9103"]
 group_id => "logstash"
 topics => ["demo"]
 consumer_threads => 1
 decorate_events => true
 add_field => {"from" => "demo"}
}

修改完配置文件后,不需要手动重启,因为之前在启动logstash时,配置了以下内容

kafka消息发送端发送消息

复制代码
#进入kafka容器
docker exec -it kafka sh
 
#进入到/opt/kafka/bin目录
cd /opt/kafka/bin

#启动消息发送端
./kafka-console-producer.sh --broker-list localhost:9092 --topic demo

logstash控制台会输出以下内容

kibana服务中查询出es的mylog索引中会采集到kafka的信息

相关推荐
面向Google编程2 小时前
从零学习Kafka:生产者分区机制
大数据·kafka
Jackeyzhe2 小时前
从零学习Kafka:生产者分区机制
kafka
大G的笔记本4 小时前
分布式事务
分布式
weixin_419658314 小时前
RabbitMQ 的高级特性
java·分布式·rabbitmq
_F_y5 小时前
仿RabbitMQ实现消息队列-服务端核心模块实现(1)
分布式·rabbitmq
.柒宇.7 小时前
RabbitMQ入门教程
分布式·rabbitmq
jiajia_lisa7 小时前
社区诊所便民行,就医通行不添堵
kafka
代码漫谈7 小时前
RabbitMQ 单节点部署指南
分布式·消息队列·rabbitmq
aLTttY8 小时前
Spring Boot + Redis 实战分布式锁:从入门到精通
spring boot·redis·分布式
weixin_419658318 小时前
RabbitMQ 应用问题
java·分布式·中间件·rabbitmq