kafka-clients之监控

以生产者为例介绍spring如何整合kafka-clients,micrometer,prometheus。上报生产者监控打点

可以通过在Spring Boot应用中手动添加Kafka Producer的度量监控,确保Prometheus能够采集到Producer的指标。以下是一个示例代码,其中使用了MeterRegistry注册Kafka Producer的度量指标:

1. 引入依赖

确保在pom.xml中引入Micrometer和Prometheus相关的依赖:

xml 复制代码
<dependency>
  <groupId>io.micrometer</groupId>
  <artifactId>micrometer-registry-prometheus</artifactId>
</dependency>
<dependency>
  <groupId>org.springframework.kafka</groupId>
  <artifactId>spring-kafka</artifactId>
</dependency>

2. 配置Kafka和Prometheus监控

在配置类中,手动为Producer添加度量注册。

java 复制代码
import io.micrometer.core.instrument.MeterRegistry;
import io.micrometer.core.instrument.binder.MeterBinder;
import io.micrometer.core.instrument.binder.kafka.KafkaMetrics;
import org.apache.kafka.clients.producer.KafkaProducer;
import org.apache.kafka.clients.producer.ProducerConfig;
import org.apache.kafka.common.serialization.StringSerializer;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

import java.util.HashMap;
import java.util.Map;

@Configuration
public class KafkaProducerConfig {

    @Bean
    public KafkaProducer<String, String> kafkaProducer() {
        Map<String, Object> configProps = new HashMap<>();
        configProps.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092");
        configProps.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, StringSerializer.class);
        configProps.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, StringSerializer.class);
        configProps.put(ProducerConfig.METRICS_RECORDING_LEVEL_CONFIG, "INFO");  // 启用INFO级别的监控

        return new KafkaProducer<>(configProps);
    }

    @Bean
    public MeterBinder kafkaProducerMetrics(KafkaProducer<String, String> kafkaProducer) {
        return new KafkaMetrics(kafkaProducer);
    }
}

3. 配置Prometheus端点

application.yml中配置Prometheus的端点:

yaml 复制代码
management:
  endpoints:
    web:
      exposure:
        include: "*"
  metrics:
    export:
      prometheus:
        enabled: true
  endpoint:
    prometheus:
      enabled: true

4. 配置Prometheus采集

确保Prometheus的配置文件中包含Spring Boot应用的Prometheus端点,通常是http://<application-host>:<port>/actuator/prometheus

5. 使用Producer并触发度量

在应用代码中使用KafkaProducer发送消息,以确保Producer的指标数据生成:

java 复制代码
import org.apache.kafka.clients.producer.KafkaProducer;
import org.apache.kafka.clients.producer.ProducerRecord;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;

@Service
public class KafkaProducerService {

    private final KafkaProducer<String, String> producer;

    @Autowired
    public KafkaProducerService(KafkaProducer<String, String> producer) {
        this.producer = producer;
    }

    public void sendMessage(String topic, String key, String value) {
        ProducerRecord<String, String> record = new ProducerRecord<>(topic, key, value);
        producer.send(record);
    }
}

6. 验证

运行应用并访问http://<application-host>:<port>/actuator/prometheus,检查是否包含Producer的指标数据。这样Prometheus应该能够采集到Producer的度量指标。

相关推荐
wangtianlang09121 小时前
深入理解Java多线程编程中的锁机制与性能优化策略
分布式
熊文豪3 小时前
Windows安装RabbitMQ保姆级教程
windows·分布式·rabbitmq·安装rabbitmq
Amy1870211182314 小时前
分布式光纤传感:照亮每一个角落的“温度感知神经”
分布式
Jabes.yang15 小时前
Java求职面试:从Spring Boot到Kafka的技术探讨
java·spring boot·面试·kafka·互联网大厂
玉石观沧海16 小时前
高压变频器故障代码解析F67 F68
运维·经验分享·笔记·分布式·深度学习
小马爱打代码17 小时前
分布式锁:原理算法和使用建议
分布式·算法
一叶飘零_sweeeet19 小时前
从 “黑盒“ 到 “透明“:SkyWalking 实战指南 —— 让微服务问题无所遁形
分布式·微服务·skywalking·分布式链路追踪
ArabySide20 小时前
【ASP.NET Core】分布式场景下ASP.NET Core中JWT应用教程
分布式·后端·asp.net core
还是大剑师兰特1 天前
Kafka 面试题及详细答案100道(91-95)-- 问题排查与解决方案1
kafka·大剑师·kafka面试题·kafka教程
小马爱打代码1 天前
zookeeper:一致性原理和算法
分布式·zookeeper·云原生