Kafka常用命令

如何进行到Docker容器中运行Kafka:
  • docker ps 找到CONTAINER ID 去前三位
  • 执行docker exec -it bbd bin/bash进入到docker中
  • 进入到/opt/bitnami/kafka/bin中执行kafka脚本

1.查看已经创建的所有topics
复制代码
bin/kafka-topics.sh --list --bootstrap-server kafka1:9093 --command-config ./config/scram_common.properties

注意:因为此kafka是加了认证的,必须先读取认证文件里的密码才能查看topics, 如下是认证文件的代码:--command-config ./config/scram_common.properties

该命令通过 Kafka CLI 工具连接到指定的 Kafka 集群(kafka1:9093),使用 SCRAM 认证配置文件(scram_common.properties),列出当前集群中的所有 Topic。

2. 创建topic
复制代码
bin/kafka-topics.sh --bootstrap-server kafka1:9093 --topic WJ-TEST --create --partitions 1 --replication-factor 3 --command-config ./config/scram_common.properties

该命令通过 Kafka CLI 工具在指定的 Kafka 集群(kafka1:9093)中创建一个名为 WJ-TEST 的 Topic,配置为 1 个分区、3 个副本,并使用 SCRAM 认证配置文件(scram_common.properties)进行安全认证。

3.查看已经创建的topic详情
复制代码
bin/kafka-topics.sh --bootstrap-server kafka1:9093 --topic KAFKA-DIM-TOPIC --command-config ./config/scram_common.properties --describe

或者describe放中间也可以:

复制代码
bin/kafka-topics.sh --bootstrap-server kafka1:9093 --topic WJ-TEST --describe --command-config ./config/scram_common.properties

该命令通过 Kafka CLI 工具连接到指定的 Kafka 集群(kafka1:9093),使用 SCRAM 认证配置文件(scram_common.properties),查看名为 WJ-TEST 的 Topic 的详细信息(如分区数、副本数、ISR 等)

4.修改已经建好的topic的分区数(注意这里只能新增,不能减少
复制代码
bin/kafka-topics.sh --bootstrap-server kafka1:9093 --topic WJ-TEST --alter --partitions 3  --command-config ./config/scram_common.properties

该命令通过 Kafka CLI 工具连接到指定的 Kafka 集群(kafka1:9093),使用 SCRAM 认证配置文件(scram_common.properties),将名为 WJ-TEST 的 Topic 的分区数从原来的分区数增加到 3**(只能增加,不能减少)**。

5. 向指定topic中生产消息
复制代码
bin/kafka-console-producer.sh --bootstrap-server kafka1:9093 --topic WJ-TEST --producer.config ./config/scram_common.properties

该命令通过 Kafka CLI 工具连接到指定的 Kafka 集群(kafka1:9093),使用 SCRAM 认证配置文件(scram_common.properties),向名为 WJ-TEST 的 Topic 中生产消息。

生产的消息:

复制代码
Hello, Kafka!
This is a test message.
Message 3
6. 向指定的topic消费消息
复制代码
bin/kafka-console-consumer.sh --bootstrap-server kafka1:9093 --topic WJ-TEST --consumer.config ./config/scram_common.properties --from-beginning

该命令通过 Kafka CLI 工具连接到指定的 Kafka 集群(kafka1:9093),使用 SCRAM 认证配置文件(scram_common.properties),从 WJ-TEST Topic 中从头开始(--from-beginning)消费消息,并将消费到的消息打印到控制台。

消费到的消息:

7.删除指定topic
复制代码
bin/kafka-topics.sh --bootstrap-server kafka1:9093 --delete --topic WJ-TEST --command-config ./config/scram_common.properties

该代码通过指定的 scram_common.properties 配置文件,连接到 Kafka1 的 9093 端口,并删除名为 WJ-TEST 的 Kafka 主题。

8. 查看操作主题命令参数

bin/kafka-topics.sh

|-----------------------------------------------------|--------------------------|
| 参数 | 描述 |
| --bootstrap-server <String: server toconnect to> | 连接的Kafka Broker主机名称和端口号。 |
| --topic <String: topic> | 操作的topic名称。 |
| --create | 创建主题。 |
| --delete | 删除主题。 |
| --alter | 修改主题。 |
| --list | 查看所有主题。 |
| --describe | 查看主题详细描述。 |
| --partitions <Integer: # of partitions> | 设置分区数。 |
| --replication-factor<Integer: replication factor> | 设置分区副本。 |
| --config <String: name=value> | 更新系统默认的配置。 |

9. 生产者命令行操作

bin/kafka-console-producer.sh

|----------------------------------------------------|--------------------------|
| 参数 | 描述 |
| --bootstrap-server <String: server toconnect to> | 连接的Kafka Broker主机名称和端口号。 |
| --topic <String: topic> | 操作的topic名称。 |

10. 消费者命令行操作

bin/kafka-console-consumer.sh

|----------------------------------------------------|--------------------------|
| 参数 | 描述 |
| --bootstrap-server <String: server toconnect to> | 连接的Kafka Broker主机名称和端口号。 |
| --topic <String: topic> | 操作的topic名称。 |
| --from-beginning | 从头开始消费。 |
| --group <String: consumer group id> | 指定消费者组名称。 |

相关推荐
starzy199013 小时前
SparkSQL 数据源与底层架构深度剖析
大数据·分布式·架构·spark
番茄炒鸡蛋加糖14 小时前
RabbitMQ 全套复盘 + Nacos+ES+MyBatis-Plus 梳理
分布式·rabbitmq
零域码客21 小时前
从 SQLite 到 PostgreSQL:轻量单机到分布式架构选型、避坑与迁移全解析
分布式·postgresql·sqlite·wal·架构设计·后端开发·数据库选型
ltl1 天前
2PC 的真实失败模式:阻塞、脑裂与恢复
分布式
霸道流氓气质1 天前
分布式系统设计:技术解析与实践
分布式
画中有画1 天前
分布式锁架构方案选型与实践
分布式·架构
ACP广源盛139246256731 天前
蚂蚁百灵 Ling‑3.0‑flash 开源 + 昇腾 0‑Day 原生适配@ACP#GSV9001E 在国产算力矩阵中的机会与落地场景
大数据·人工智能·分布式·单片机·嵌入式硬件
汽车仪器仪表相关领域2 天前
KRYPTON坚固型IP67 EtherCAT总线数据采集模块:工业级分布式采集方案
分布式·功能测试·汽车·压力测试·可用性测试
霸道流氓气质2 天前
Java中信号量(Semaphore):从本地到分布式
java·开发语言·分布式
naierfengdian2 天前
分布式风电助力乡村能源转型的技术路径
分布式·能源