kafka学习笔记7 性能测试 —— 筑梦之路

kafka 不同的参数配置对 kafka 性能都会造成影响,通常情况下集群性能受分区、磁盘和线程等影响因素,因此需要进行性能测试,找出集群性能瓶颈和最佳参数。

生产者和消费者的性能测试工具

kafka-producer-perf-test.sh

kafka-consumer-perf-test.sh
kafka-producer-perf-test.sh:用于测试Kafka Producer的性能,主要输出4项指标,总共发送消息量(以MB为单位),每秒发送消息量(MB/second),发送消息总数,每秒发送消息数(records/second)。

kafka-consumer-perf-test.sh:用于测试Kafka Consumer的性能,测试指标与Producer性能测试脚本一样

测试准备

  • 前置条件:3 个Broker(节点),1个Topic(主题),3个Partition(分区),1 个 Replication(副本),异步模式,消息Payload为300字节,消息数量 5000万,kafka 版本为 3.9.2

  • 硬件配置:4 核 CPU,8G 内存,1T HDD 硬盘

  • 测试工具:Kafka自带的基准工具

生产者基准测试

bash 复制代码
bin/kafka-producer-perf-test.sh \
  --topic perf-test \
  --num-records 5000000 \
  --record-size 300 \
  --throughput -1 \
  --producer.config /opt/kafka/config/admin.properties \
  --print-metrics

参数说明:

--topic 指定topic

--num-records 指定生产数据量

--throughput 指定吞吐量(-1表示无限制)

--record-size record数据大小

--producer.config 指定 kafka 客户端配置文件路径

--print-metrics 打印结果指标值

消费者基准测试

bash 复制代码
bin/kafka-consumer-perf-test.sh \
  --topic perf-test \
  --messages 50000000 \
  --consumer.config /opt/kafka/config/admin.properties \
  --bootstrap-server 192.168.100.131:9092,192.168.100.132:9092,192.168.100.133:9092 \
  --print-metrics
相关推荐
杉之19 分钟前
Java中的不可变集合
java·笔记·学习
半间烟雨41 分钟前
⼆、Kafka客户端消息流转流程
分布式·kafka
郭涤生2 小时前
Chapter 5: The Standard Library (C++20)_《C++20Get the details》_notes
开发语言·c++·笔记·c++20
viperrrrrrrrrr72 小时前
大数据学习(95)-谓词下推
大数据·sql·学习
唔662 小时前
flutter 曲线学习 使用第三方插件实现左右滑动
javascript·学习·flutter
haoly19893 小时前
离散数学问题集--问题4.40
学习
cwtlw3 小时前
java基础知识面试题总结
java·开发语言·学习·面试
Caramel_biscuit4 小时前
STM32 CAN学习
stm32·嵌入式硬件·学习
cwtlw4 小时前
JavaRedis和数据库相关面试题
java·数据库·笔记·面试
DayDayUp..5 小时前
[算法学习笔记] 《Hello算法》第10章 搜索
笔记·学习