基于kafka_exporter&prometheus&grafana的kafka监控实现

一、安装配置kafka_exporter

下载kafka_exporter

powershell 复制代码
wget http://*.*.*.45:10000/prometheus/kafka_exporter-1.4.2.linux-amd64.tar.gz
tar -zxcf kafka_exporter-1.4.2.linux-amd64.tar.gz

启动kafka_exporter

powershell 复制代码
./kafka_exporter --kafka.server=*.*.*.77:8423 --kafka.server=*.*.*.78:8423 --kafka.server=*.*.*.79:8423 --kafka.server=*.*.*.80:8423 --kafka.server=*.*.*.81:8423 &

Error Init Kafka Client: kafka: client has run out of available brokers to talk to (Is your cluster reachable?)

报错原因:kafka_exporter版本太低 !!!

防火墙开放端口(未启动防火墙不需要)

powershell 复制代码
firewall-cmd --add-port=9092/tcp --permanent       	# 开放 9092 端口
firewall-cmd --reload              					# 重新加载 
firewall-cmd --list-ports     						# 查看所有开放端口 
或 
firewall-cmd --add-port=9092/tcp --permanent && firewall-cmd --reload && firewall-cmd --list-ports

kafka_exporter启动脚本

powershell 复制代码
#!/bin/bash 
nohup /data/gxpt/kafka_exporter/kafka_exporter-2.0 --kafka.server=*.*.*.77:8423 --kafka.server=*.*.*.78:8423 --kafka.server=*.*.*.79:8423 --kafka.server=*.*.*.80:8423 --kafka.server=*.*.*.81:8423 --sasl.enabled --sasl.username=user --sasl.password=md5(pwd)  --sasl.mechanism=scram-sha512 --log.enable-sarama  --web.listen-address=:19091 > /dev/null 2>&1  &

其中,kafka监控账号:user/pwd【md5(pwd)】 监听端口号:--web.listen-address=:19091 kafka_exporter

二、安装配置prometheus

在prometheus.yml配置文件添加以下配置

yaml 复制代码
scrape_configs:
  - job_name: "kafka"
    static_configs:
    - targets: ['localhost:19091']

使用sudo权限,后台执行Prometheus启动命令,并启用lifecycle功能,指定监听端口为9090

powershell 复制代码
sudo nohup ./prometheus --web.enable-lifecycle --web.listen-address=:9090 &

三、安装配置grafana

下载grafana

powershell 复制代码
wget https://dl.grafana.com/enterprise/release/grafana-enterprise-10.2.3-1.x86_64.rpm

安装grafana

powershell 复制代码
yum install grafana-enterprise-10.2.3-1.x86_64.rpm

或

powershell 复制代码
sudo yum install -y https://dl.grafana.com/enterprise/release/grafana-enterprise-10.2.3-1.x86_64.rpm

启动grafana,默认端口3000

powershell 复制代码
systemctl start grafana-server.service

登录grafana

http://localhost:3000/dashboards amdin/admin

下载kafka监控模板

https://grafana.com/grafana/dashboards/7589-kafka-exporter-overview/

https://grafana.com/grafana/dashboards/11962-kafka-metrics/

配置普米数据源,导入模板即可显示监控信息;

相关推荐
ClouGence10 小时前
开源数据库管理工具 CloudDM 发布新版本,支持 GreptimeDB 数据源
数据库·kafka
用户3610588626121 天前
KafkaProducer 源码深度剖析:筛选可以发送消息的 Broker
kafka
JasonChen@6661 天前
prometheus静态监控static_configs案例一(7)
prometheus
西木Qi1 天前
Kafka消息中间件单机版安装配置
分布式·kafka
lisanmengmeng1 天前
prometheus的rules 配置说明
prometheus
飞奔的瓜牛2 天前
Kafka 生产实践指南:使用要点、性能优化与运维维护
中间件·性能优化·kafka
IT古董4 天前
Grafana 企业级可观测性平台:从零基础到生产级实战完整教程
grafana
fengkai45455 天前
Prometheus+K8s弹性伸缩综合项目
运维·kubernetes·k8s·prometheus·hpa·vpa
mengge.cloud7 天前
prometheus+k8s+弹性伸缩,综合项目
云原生·容器·kubernetes·prometheus
qq_452396237 天前
第二篇:《CommitLog + ConsumeQueue:一条日志解决 Kafka 多分区随机写的难题》
分布式·kafka