日志平台搭建第六章:logstash通过kafka通道采集日志信息

1.修改文件/opt/app/elk/logstash-7.5.1/config.d/config1.conf,在input下添加kafka采集配置

复制代码
#192.168.128.130:9103:kafka地址
#topics:主题
kafka {
 bootstrap_servers => ["192.168.128.130:9103"]
 group_id => "logstash"
 topics => ["demo"]
 consumer_threads => 1
 decorate_events => true
 add_field => {"from" => "demo"}
}

修改完配置文件后,不需要手动重启,因为之前在启动logstash时,配置了以下内容

kafka消息发送端发送消息

复制代码
#进入kafka容器
docker exec -it kafka sh
 
#进入到/opt/kafka/bin目录
cd /opt/kafka/bin

#启动消息发送端
./kafka-console-producer.sh --broker-list localhost:9092 --topic demo

logstash控制台会输出以下内容

kibana服务中查询出es的mylog索引中会采集到kafka的信息

相关推荐
一只大袋鼠15 分钟前
高并发系统架构优化(下):突破带宽瓶颈,迈向分布式集群
分布式·系统架构
路小雨~15 分钟前
RabbitMQ 全面学习资料
分布式·学习·rabbitmq
heimeiyingwang28 分钟前
【架构实战】分布式事务解决方案
分布式·架构
2401_8401922744 分钟前
监控的作用
分布式·kubernetes
hf2000121 小时前
零成本迁移,原地加速,成本降低60%:火花思维基于云器Lakehouse升级实践
大数据·分布式·spark·lakehouse
chaofan9801 小时前
拒绝单体模型依赖:从 GPT-5.4 与 Claude 生产力之争看分布式 AI 网关的必要性
人工智能·分布式·gpt
爱吃苹果的梨叔2 小时前
清虹分布式坐席管理系统落地江西省送变电实业有限公司坐席调度系统
分布式
Jack N3 小时前
消息中间件RabbitMQ vs Kafka vs Pulsar 详细对比
分布式·kafka·rabbitmq
阿里云大数据AI技术3 小时前
PAI Physical AI Notebook详解6:Isaac Lab分布式感知强化学习
人工智能·分布式