Kafka 环境配置与使用总结

复制代码
# 部署教程参考 # 官方教程: https://kafka.apache.org/quickstart 
# 单机部署kafka参考: https://blog.csdn.net/u013416034/article/details/123875299 
# 集群部署kafka参考: 
# https://blog.csdn.net/zhangzjx/article/details/123679453 
# https://www.cnblogs.com/Andrew-Zhou/p/15366574.html

1-服务启动

bash 复制代码
# 服务启动
./bin/kafka-server-stop.sh
./bin/zookeeper-server-stop.sh

./bin/zookeeper-server-start.sh ./config/zookeeper.properties
./bin/kafka-server-start.sh ./config/server.properties

2-主题topic操作

bash 复制代码
./bin/kafka-topics.sh --list --bootstrap-server ip:9002  #topic列表
./bin/kafka-topics.sh --describe --bootstrap-server ip:9002  --topic topic_name #查看某topic信息
./bin/kafka-topics.sh --create --bootstrap-server ip:9002 --replication-factor 1 --partition 1 --topic topic_name #创建某topic
./bin/kafka-topics.sh --delete --bootstrap-server ip:9002 --topic topic_name #删除某topic
./bin/kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list ip:9092 --topic topic_name --time-1 #查看消息数量
# 查看某个分区下的消息总量
./bin/kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list ip:9092 --topic topic_name --partition 0

3-消费者组操作

bash 复制代码
./bin/kafka-consumer-groups.sh --list --bootstrap-server ip:9092 #所有消费者组列表
./bin/kafka-consumer-groups.sh --describe --state --all-groups --bootstrap-server ip:9092 #所有消费者组状态
./bin/kafka-consumer-groups.sh --describe --all-groups --members --bootstrap-server ip:9092 #所有消费者组成员
./bin/kafka-consumer-groups.sh --describe --state --group group_name --bootstrap-server ip:9092 #指定消费者组状态
./bin/kafka-consumer-groups.sh --describe --group group_name --bootstrap-server ip:9092 #指定消费者组详情
./bin/kafka-consumer-groups.sh --delete --group group_name --bootstrap-server ip:9092 #删除指定消费者组
./bin/kafka-consumer-groups.sh --execute --reset-offsets --to-latest --group group_name --bootstrap-server ip:9092 #创建消费者组
# 查看某个用户组的消息积压情况
./bin/kafka-consumer-groups.sh --describe --bootstrap-server ip:9092 --group group_name #所有消费者组状态
# 注意:LAG为积压的消息数量,Current-Offset、Log-Offset分别为当前offset以及总的Offset

4-Console操作

bash 复制代码
./bin/kafka-console-consumer.sh --bootstrap-server ip:9092  --topic topic_name --from-beginning #打印指定topic的内容
./bin/kafka-console-consumer.sh --bootstrap-server ip:9092  --topic topic_name --from-beginning | grep "**" #打印指定topic的内容
./bin/kafka-console-producer.sh --bootstrap-server ip:9092  --topic topic_name #生产消息

5-Configs操作

bash 复制代码
./bin/kafka-configs.sh --bootstrap-server ip:9092 --describe --entity-type topics --entity-type topic_name #查看topic数据清理策略
./bin/kafka-configs.sh --bootstrap-server ip:9092 --entity-type topics --entity-type topic_name --alter --add-config retention.ms=1000 #修改topic数据清理策略
# 注意:修改保留时间为1000ms,但不是修改后1000ms就马上删除,kafka采用轮训的方式,轮训到该topic发现是1000ms前的数据就删掉
./bin/kafka-configs.sh --bootstrap-server ip:9092 --entity-type topics --entity-type topic_name --alter --config cleanup.policy=delete #修改topic数据清理策略为立即删除
./bin/kafka-configs.sh --bootstrap-server ip:9092 --entity-type topics --entity-type topic_name --alter --add-config partitions=3

6-【不同服务器间的消费配置】

bash 复制代码
listeners=PLAINTEXT://IP:9092  # vim config/server.properties
相关推荐
筑梦之人2 小时前
Elasticsearch 9.x 从入门到精通(5/7):集群、分布式与运维
运维·分布式·elasticsearch
kiwixing1 天前
GaussDB|集中式还是分布式?三把尺子选型
分布式·gaussdb
真上帝的左手2 天前
30. 技术专题-‌应用框架组件-分布式架构
分布式·架构·系统架构·分布式架构
zixu_star2 天前
从单机到分布式:定时任务如何处理大量数据与执行失败?
分布式
lsc_blog3 天前
听到优化风声,先准备能由自己掌控的事
数据库·分布式·中间件·职场和发展·重构
Lansonli4 天前
大数据Spark(八十七):Spark-Submit 参数详解
大数据·分布式·spark
qq_452396234 天前
第二篇:《CommitLog + ConsumeQueue:一条日志解决 Kafka 多分区随机写的难题》
分布式·kafka
Alluxio5 天前
Alluxio + OCI:为 AI 工作负载实现亚毫秒访问延迟与可扩展吞吐
运维·数据库·人工智能·分布式·缓存·ai·语言模型
阿卡好可爱5 天前
Lua 热更新不生效:改完文件线上仍是旧逻辑,package.loaded 与 upvalue 重绑定详解
数据结构·分布式·后端·架构·lua
我不会起名字3226 天前
消费回调固定 return nil:错误传播与 Kafka 位点提交的区别
后端·mongodb·kafka·go·im·故障排查