kafka踩坑

问题:项目中用到kafka作为消息中间件,因为现在是开发阶段,试了一次没问题之后就没在管,今天又要测试kafka相关功能,发现消息发送者能够正常发送消息,但是消费者怎么也就收不到数据。然后经过各种百度进行了如下的一系列操作,终于可用了

解决方法:

  1. 首先停止kafka
    进入到kafka的bin目录下,停止kafka:
    ./kafka-server-stop.sh .../config/server.properties
  2. 查看server.properties命令,看logdir的目录,换个目录或者删除目录中的数据
    vi server.properties
  3. 停止zookeer,进入到zookeeper 的bin目录下,执行:
    ./zkServer.sh stop
  4. 同理查看zookeeper配置文件,修改dataDir的路径或者删除目录中的数据
    vi zoo.cfg(conf目录下的)
  5. 重启zookeeper,进入到zookeeper 的bin目录下,执行:
    ./zkServer.sh start
  6. 重启kafka,进入到kafka的bin目录下,执行:
    ./kafka-server-start.sh .../config/server.properties
    查看kafka启动是否有错误,如果没有错误,以后台方式执行
    ./kafka-server-start.sh -daemon .../config/server.properties

记录几个常用命令

  • 创建主题:./kafka-topics --zookeeper.sh localhost:2181 --create --topic test123 --partitions 2 --replication-factor 1
  • 查看主题:./kafka-topics --zookeeper.sh localhost:2181 --list
  • 发送消息:./kafka-console-producer.sh --broker-list localhost:9092 --topic test123
  • 消费消息:./kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test123 --from-beginning
  • 查看消息消费:./kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group groupname --describe

虽然问题解决了,但是kafka内部原理根本不了解,在这立个flag,学习kafka!

相关推荐
LDG_AGI1 小时前
【推荐系统】深度学习训练框架(六):PyTorch DDP(DistributedDataParallel)数据并行分布式深度学习原理
人工智能·pytorch·分布式·python·深度学习·算法·spark
BD_Marathon2 小时前
【Zookeeper】Zookeeper内部的数据模型
linux·分布式·zookeeper
最笨的羊羊2 小时前
Flink CDC系列之:Kafka 数据接收器配置选项类KafkaDataSinkOptions
kafka·flink cdc系列·kafkadata·数据接收器配置选项类·sinkoptions
w***z502 小时前
分布式多卡训练(DDP)踩坑
分布式
h***59332 小时前
分布式与集群,二者区别是什么?
分布式
lucky_syq3 小时前
深入Spark核心:Shuffle全剖析与实战指南
大数据·分布式·python·spark
GIOTTO情3 小时前
技术深度拆解:Infoseek 媒体发布系统的分布式架构与自动化实现
分布式·架构·媒体
一个帅气昵称啊3 小时前
在.NET中如何优雅的使用DotNetCore.CAP实现分布式事务,事件总线和消息最终一致性
分布式·微服务·.net
o***Z4483 小时前
后端在分布式中的服务调用
分布式
青衫码上行3 小时前
分布式版本控制系统Git的安装和使用
分布式·git·svn