kafka主题管理详解 - kafka-topics.sh

目录

      • 基本语法
      • 常用命令选项
        • [1. 创建主题(create)](#1. 创建主题(create))
          • [注意: 复制因子不能大于可用的 broker 数量](#注意: 复制因子不能大于可用的 broker 数量)
        • [2. 查看所有主题(list)](#2. 查看所有主题(list))
        • [3. 查看主题详情(describe)](#3. 查看主题详情(describe))
        • [4. 修改主题配置(alter)](#4. 修改主题配置(alter))
        • [5. 删除主题(delete)](#5. 删除主题(delete))
        • [6. 其他有用选项](#6. 其他有用选项)
      • 常见配置参数

在 Kafka 的 KRaft 模式(无 ZooKeeper)中, kafka-topics.sh 工具用于管理主题(topics),包括创建、查看、修改和删除等操作。以下是其详细使用方法:

基本语法

bash 复制代码
kafka-topics.sh --bootstrap-server <kafka-broker-host:port> [命令选项]

注意:在 KRaft 模式下,不再使用 --zookeeper 参数,而是通过 --bootstrap-server 连接到 Kafka broker。

常用命令选项

1. 创建主题(create)
bash 复制代码
kafka-topics.sh --bootstrap-server localhost:9092 \
  --create \
  --topic <topic-name> \
  --partitions <num-partitions> \
  --replication-factor <replication-factor> \
  [--config <key=value>]  # 可选的主题配置

示例:

bash 复制代码
# 创建一个名为 "user-tracking" 的主题,3个分区,1个副本
kafka-topics.sh --bootstrap-server localhost:9092 \
  --create \
  --topic user-tracking \
  --partitions 3 \
  --replication-factor 1 \
  --config retention.ms=86400000  # 数据保留1天
注意: 复制因子不能大于可用的 broker 数量

在 Kafka 中,复制因子不能大于可用的 broker 数量,因为每个副本需要存储在不同的 broker 上以保证高可用性。

否则会报错:

Error while executing topic command : Unable to replicate the partition 2 time(s): The target replication factor of 2 cannot be reached because only 1 broker(s) are registered.

2. 查看所有主题(list)
bash 复制代码
kafka-topics.sh --bootstrap-server localhost:9092 --list

执行演示:

3. 查看主题详情(describe)
bash 复制代码
kafka-topics.sh --bootstrap-server localhost:9092 \
  --describe \
  --topic <topic-name>  # 不指定则查看所有主题详情

示例:

4. 修改主题配置(alter)
bash 复制代码
kafka-topics.sh --bootstrap-server localhost:9092 \
  --alter \
  --topic <topic-name> \
  [--partitions <new-num-partitions>]  # 只能增加分区数
  [--config <key=value>]  # 添加或修改配置
  [--delete-config <key>]  # 删除配置
增加分区数

示例:

bash 复制代码
# 增加分区数到5
kafka-topics.sh --bootstrap-server localhost:9092 \
  --alter \
  --topic user-tracking \
  --partitions 5

演示:

5. 删除主题(delete)
bash 复制代码
kafka-topics.sh --bootstrap-server localhost:9092 \
  --delete \
  --topic <topic-name>

注意:删除主题需要 broker 配置 delete.topic.enable=true(默认已开启)。

删除操作是异步的,执行完这条命令不代表主题立即就被删除了。它仅仅是被标记成"已删除"状态而已。Kafka 会在后台默默地开启主题删除操作。

演示:

6. 其他有用选项
  • --if-exists:操作仅在主题存在时执行(如删除、修改)
  • --if-not-exists:操作仅在主题不存在时执行(如创建)

示例:

bash 复制代码
# 仅在主题存在时删除
kafka-topics.sh --bootstrap-server localhost:9092 \
  --delete \
  --topic user-tracking \
  --if-exists

常见配置参数

可以通过 --config 选项设置的常用主题配置:

  • retention.ms:数据保留时间(毫秒)
  • retention.bytes:每个分区保留的数据量上限
  • cleanup.policy:清理策略(deletecompact
  • max.message.bytes:单条消息的最大字节数
相关推荐
indexsunny3 小时前
互联网大厂Java面试实战:从Spring Boot到微服务架构的技术问答解析
java·spring boot·redis·微服务·kafka·jwt·flyway
麦兜*4 小时前
深入解析现代分布式事务架构:基于Seata Saga模式与TCC模式实现金融级高可用与数据最终一致性的工程实践全解析
分布式·金融·架构
難釋懷4 小时前
分布式锁-redission功能介绍
分布式
only-qi7 小时前
微服务场景下,如何实现分布式事务来保证一致性?
分布式·微服务·架构
m0_564876848 小时前
Distributed data parallel (DDP)分布式训练
分布式
BYSJMG10 小时前
计算机毕设选题推荐:基于Hadoop的交通事故数据可视化分析系统
大数据·vue.js·hadoop·分布式·后端·信息可视化·课程设计
野犬寒鸦10 小时前
从零起步学习并发编程 || 第三章:JMM(Java内存模型)详解及对比剖析
java·服务器·开发语言·分布式·后端·学习·spring
虫小宝11 小时前
查券返利机器人的异步任务调度:Java XXL-Job+Redis实现海量查券请求的分布式任务分发
java·redis·分布式
liux352812 小时前
MySQL -> Canal -> Kafka-> ES 完整数据同步流程详解
mysql·elasticsearch·kafka
yq19820430115613 小时前
构建高可用资源导航平台:基于Django+Scrapy的分布式架构实践
分布式·scrapy·django