kafka踩坑

问题:项目中用到kafka作为消息中间件,因为现在是开发阶段,试了一次没问题之后就没在管,今天又要测试kafka相关功能,发现消息发送者能够正常发送消息,但是消费者怎么也就收不到数据。然后经过各种百度进行了如下的一系列操作,终于可用了

解决方法:

  1. 首先停止kafka
    进入到kafka的bin目录下,停止kafka:
    ./kafka-server-stop.sh .../config/server.properties
  2. 查看server.properties命令,看logdir的目录,换个目录或者删除目录中的数据
    vi server.properties
  3. 停止zookeer,进入到zookeeper 的bin目录下,执行:
    ./zkServer.sh stop
  4. 同理查看zookeeper配置文件,修改dataDir的路径或者删除目录中的数据
    vi zoo.cfg(conf目录下的)
  5. 重启zookeeper,进入到zookeeper 的bin目录下,执行:
    ./zkServer.sh start
  6. 重启kafka,进入到kafka的bin目录下,执行:
    ./kafka-server-start.sh .../config/server.properties
    查看kafka启动是否有错误,如果没有错误,以后台方式执行
    ./kafka-server-start.sh -daemon .../config/server.properties

记录几个常用命令

  • 创建主题:./kafka-topics --zookeeper.sh localhost:2181 --create --topic test123 --partitions 2 --replication-factor 1
  • 查看主题:./kafka-topics --zookeeper.sh localhost:2181 --list
  • 发送消息:./kafka-console-producer.sh --broker-list localhost:9092 --topic test123
  • 消费消息:./kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test123 --from-beginning
  • 查看消息消费:./kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group groupname --describe

虽然问题解决了,但是kafka内部原理根本不了解,在这立个flag,学习kafka!

相关推荐
JoyousHorse19 分钟前
单体架构、集群架构和分布式架构概述
分布式·架构·软件工程·软考·系统架构设计师
油头少年_w1 小时前
Hadoop进阶原理(HDFS、MR、YARN的原理)
大数据·hadoop·分布式
圆蛤镇程序猿3 小时前
【什么是RabbitMQ】
分布式·rabbitmq
张彦峰ZYF3 小时前
接口性能优化宝典:解决性能瓶颈的策略与实践
java·redis·分布式·后端·算法·性能优化·架构
运维&陈同学4 小时前
【zookeeper02】消息队列与微服务之zookeeper单机部署
linux·服务器·分布式·微服务·zookeeper·云原生·消息队列·云计算
zmd-zk5 小时前
flink学习(6)——自定义source和kafka
大数据·hadoop·学习·flink·kafka·实时
九河云8 小时前
分布式数据库中间件可以用在哪些场景呢
数据库·分布式·中间件·华为云
猫猫不是喵喵.10 小时前
【微服务】RabbitMQ与SpringAMQP消息队列
分布式·rabbitmq
除了代码啥也不会10 小时前
springboot 整合 rabbitMQ (延迟队列)
java·分布式·rabbitmq
麦麦大数据10 小时前
如何在macos上通过虚拟机搭建spark+hadoop分布式环境(一)
分布式·macos·spark·wmware