kafka学习笔记7 性能测试 —— 筑梦之路

kafka 不同的参数配置对 kafka 性能都会造成影响,通常情况下集群性能受分区、磁盘和线程等影响因素,因此需要进行性能测试,找出集群性能瓶颈和最佳参数。

生产者和消费者的性能测试工具

kafka-producer-perf-test.sh

kafka-consumer-perf-test.sh
kafka-producer-perf-test.sh:用于测试Kafka Producer的性能,主要输出4项指标,总共发送消息量(以MB为单位),每秒发送消息量(MB/second),发送消息总数,每秒发送消息数(records/second)。

kafka-consumer-perf-test.sh:用于测试Kafka Consumer的性能,测试指标与Producer性能测试脚本一样

测试准备

  • 前置条件:3 个Broker(节点),1个Topic(主题),3个Partition(分区),1 个 Replication(副本),异步模式,消息Payload为300字节,消息数量 5000万,kafka 版本为 3.9.2

  • 硬件配置:4 核 CPU,8G 内存,1T HDD 硬盘

  • 测试工具:Kafka自带的基准工具

生产者基准测试

bash 复制代码
bin/kafka-producer-perf-test.sh \
  --topic perf-test \
  --num-records 5000000 \
  --record-size 300 \
  --throughput -1 \
  --producer.config /opt/kafka/config/admin.properties \
  --print-metrics

参数说明:

--topic 指定topic

--num-records 指定生产数据量

--throughput 指定吞吐量(-1表示无限制)

--record-size record数据大小

--producer.config 指定 kafka 客户端配置文件路径

--print-metrics 打印结果指标值

消费者基准测试

bash 复制代码
bin/kafka-consumer-perf-test.sh \
  --topic perf-test \
  --messages 50000000 \
  --consumer.config /opt/kafka/config/admin.properties \
  --bootstrap-server 192.168.100.131:9092,192.168.100.132:9092,192.168.100.133:9092 \
  --print-metrics
相关推荐
Non importa3 小时前
【初阶数据结构】树——二叉树(上)
c语言·数据结构·学习·算法
Rousson4 小时前
硬件学习笔记--57 MCU相关资源介绍
笔记·单片机·mcu·学习
h汉堡5 小时前
C++入门基础
开发语言·c++·学习
Rinai_R5 小时前
MIT6.S081-2024版本的环境搭建
笔记·操作系统·环境搭建·计算机基础·xv6·mit6s081
小斌的Debug日记6 小时前
SpringBoot和微服务学习记录Day3
spring boot·学习·微服务
路有瑶台6 小时前
EXCEL学习
学习·excel
计算机视觉与OpenCV6 小时前
自动驾驶与机器人算法学习
学习·机器人·自动驾驶
筱小虾米6 小时前
Dify忘记管理员密码,重置的问题
人工智能·学习·dify
FAREWELL000756 小时前
C#进阶学习(九)委托的介绍
开发语言·学习·c#·委托
我的代码永没有bug7 小时前
day1-小白学习JAVA---JDK安装和环境变量配置(mac版)
java·学习·macos