Kafka日常运维命令总结

一、集群管理
  1. 前台启动Broker

    bash 复制代码
    bin/kafka-server-start.sh <path>/server.properties
    • 关闭方式:Ctrl + C
  2. 后台启动Broker

    bash 复制代码
    bin/kafka-server-start.sh -daemon <path>/server.properties
  3. 关闭Broker

    bash 复制代码
    bin/kafka-server-stop.sh

二、Topic管理
操作 命令
创建Topic bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --partitions 3 --replication-factor 3 --topic <topicname>
删除Topic bin/kafka-topics.sh --delete --bootstrap-server localhost:9092 --topic <topicname>
查询Topic列表 bin/kafka-topics.sh --bootstrap-server localhost:9092 --list
查询Topic详情 bin/kafka-topics.sh --bootstrap-server localhost:9092 --describe --topic <topicname>
增加分区数 bin/kafka-topics.sh --alter --bootstrap-server localhost:9092 --partitions 6 --topic <topicname>

注意 :新版本推荐使用--bootstrap-server替代--zookeeper


三、Consumer Groups管理
操作 命令
查询消费组列表 bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --list
查询消费组详情 bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --describe --group <groupname>
删除消费组 bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --delete --group <groupname>
  1. 重设消费位移

    bash 复制代码
    # 重置到最早位移
    bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group <groupname> --reset-offsets --to-earliest --execute
    
    # 重置到最新位移
    bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group <groupname> --reset-offsets --to-latest --execute
    
    # 重置到指定位移
    bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group <groupname> --reset-offsets --to-offset 2000 --execute

四、常用运维工具
  1. 生产者控制台

    bash 复制代码
    bin/kafka-console-producer.sh --broker-list localhost:9092 --topic <topicname>
    • 高级参数:
      --compression-codec lz4(压缩)
      --request-required-acks all(ACK机制)
      --message-send-max-retries 10(重试次数)
  2. 消费者控制台

    bash 复制代码
    bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic <topicname> --group <groupname> --from-beginning
  3. 性能测试工具

    bash 复制代码
    # 生产者性能测试
    bin/kafka-producer-perf-test.sh --topic <topic> --num-records 1000000 --record-size 1000
    
    # 消费者性能测试
    bin/kafka-consumer-perf-test.sh --topic <topic> --messages 1000000
  4. 获取Topic消息数

    bash 复制代码
    # 最新位移(总消息数)
    bin/kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list localhost:9092 --topic <topic> --time -1
    
    # 最早位移
    bin/kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list localhost:9092 --topic <topic> --time -2

五、分区管理
  1. Preferred Leader选举

    bash 复制代码
    bin/kafka-leader-election.sh --bootstrap-server localhost:9092 --election-type preferred --topic <topic> --partition 0
  2. 分区重分配

    bash 复制代码
    # 生成迁移计划
    bin/kafka-reassign-partitions.sh --bootstrap-server localhost:9092 --generate --topics-to-move-json-file plan.json
    
    # 执行迁移
    bin/kafka-reassign-partitions.sh --bootstrap-server localhost:9092 --execute --reassignment-json-file reassign.json
    
    # 验证进度
    bin/kafka-reassign-partitions.sh --bootstrap-server localhost:9092 --verify --reassignment-json-file reassign.json

六、高级运维
  1. 查看日志段元数据

    bash 复制代码
    bin/kafka-dump-log.sh --files 000000000000.log --print-data-log
  2. 跨集群复制(MirrorMaker)

    bash 复制代码
    bin/kafka-mirror-maker.sh --consumer.config consumer.conf --producer.config producer.conf --whitelist ".*"
  3. 查看__consumer_offsets

    bash 复制代码
    bin/kafka-console-consumer.sh --topic __consumer_offsets --formatter "kafka.coordinator.group.GroupMetadataManager\$OffsetsMessageFormatter"

关键注意事项:

  1. 版本兼容性

    • ≥ Kafka 2.2.x 推荐使用 --bootstrap-server 替代 --zookeeper
    • 删除Topic需确保 delete.topic.enable=true
  2. 生产环境建议

    • 分区重分配避免高峰时段操作
    • 重设位移前先停止消费者组
    • MirrorMaker需监控复制延迟
  3. 常用诊断技巧

    bash 复制代码
    # 检查消息积压(Lag)
    bin/kafka-consumer-groups.sh --describe --group <group> | awk '{print $6}'
    
    # 检查Controller状态
    bin/kafka-metadata-quorum.sh --status

完整文档参考:Apache Kafka Operations

相关推荐
老友@3 小时前
RabbitMQ 延时队列插件安装与使用详解(基于 Delayed Message Plugin)
运维·分布式·docker·rabbitmq·延时队列
-SGlow-4 小时前
MySQL相关概念和易错知识点(3)(表内容的CURD、内置函数)
linux·运维·服务器·数据库·mysql
编程社区管理员6 小时前
Vue项目使用ssh2-sftp-client实现打包自动上传到服务器(完整教程)
运维·服务器·vue
UQWRJ6 小时前
菜鸟教程Linux ViVimYumApt笔记
linux·运维·笔记
陈鋆6 小时前
分布式ID方案(标记)
分布式
sz66cm7 小时前
Linux基础 -- 内核快速向用户态共享内核变量方案之ctl_table
linux·运维·服务器
努力一点9487 小时前
ubuntu22.04系统入门 linux入门(二) 简单命令 多实践以及相关文件管理命令
linux·运维·服务器·人工智能·gpu算力
wb1898 小时前
企业WEB应用服务器TOMCAT
运维·前端·笔记·tomcat·云计算
利刃大大9 小时前
【在线五子棋对战】十一、整合封装服务器模块实现
运维·服务器·c++·项目·五子棋
UU_Yang9 小时前
Linux跑后台服务
linux·运维·服务器