filebeat到kafka示例

docker run -d \

--name=filebeat_7.14_0 \ #filebeat名称

--user=root \

--volume="/data/filebeat/filebeat.yml:/usr/share/filebeat/filebeat.yml" \ #映射filebeat.yml配置

--volume="/data/filebeat/log:/usr/share/filebeat/log" \ #映射filebeat日志

--volume="/data/filebeat/data:/usr/share/filebeat/data" \ #映射filebeat数据

--volume="/data/log:/path/to/host/log" \ #映射主机的宿日志路径、很重要

docker.elastic.co/beats/filebeat:7.14.0 #filebeat版本

/data/filebeat:

[root@xx filebeat]# cat filebeat.yml

filebeat.inputs:

  • type: log

enabled: true

paths:

  • /path/to/host/log/net/zb/10.1.1.1* #真实宿主机路径是/data/log/net/zb/10.1.1.1*的日志

fields:

device_model: "test"

kafka_topic: "测试-topic" #卡卡夫卡 topic

#filebeat.config.modules:

path: ${path.config}/modules.d/*.yml

reload.enabled: false

#setup.template.settings:

index.number_of_shards: 1

#setup.template.enabled: true

#setup.template.fields: fields.yml

#setup.template.overwrite: true

processors:

  • drop_fields:

fields: ['agent', 'ecs', 'beat', 'input_type', 'tags', 'count', '@version', 'log', 'offset', 'type', 'host']

ignore_missing: false

output.kafka:

enabled: true

hosts: ["10.10.10.10:9092"] #输出到kafka中,写kafka的IP

topic: "%{[fields.kafka_topic]}"

compression: gzip

max_message_bytes: 1000000

python3测试有没有数据:

-*- coding: utf-8 -*-

import sys

import json

from kafka import KafkaConsumer #pip3 install kafka-python

for msg in KafkaConsumer('测试-topic',bootstrap_servers=['10.10.10.10:9092']):

jsonData = msg.value.decode('utf-8')

info = json.loads(jsonData)

print(info)

print(len("cmdb-crm-CRMkehuguanli-prd"))

相关推荐
P.H. Infinity6 小时前
【RabbitMQ】03-交换机
分布式·rabbitmq
java1234_小锋7 小时前
讲讲RabbitMQ 性能优化
kafka
龙哥·三年风水8 小时前
群控系统服务端开发模式-应用开发-个人资料
分布式·php·群控系统
funnyZpC10 小时前
quartz集群增强版🎉
java·分布式·开源·集群·定时任务
明达技术10 小时前
工业4.0时代下的分布式IO模块
分布式
天冬忘忧12 小时前
Spark 程序开发与提交:本地与集群模式全解析
大数据·分布式·spark
一叶飘零_sweeeet13 小时前
Dubbo 构建高效分布式服务架构
分布式·架构·dubbo
孤蓬&听雨14 小时前
RabbitMQ自动发送消息工具(自动化测试RabbitMQ)
分布式·测试工具·自动化·rabbitmq·自动发送消息
呼啦啦啦啦啦啦啦啦14 小时前
RabbitMQ 七种工作模式介绍
分布式·rabbitmq
qq_2037694914 小时前
win11安装最新rabbitmq
分布式·rabbitmq·ruby