kafka实战报错解决问题

需求

在一个在线商城中,用户下单后需要进行订单的处理。为了提高订单处理的效率和可靠性,我们使用Kafka来实现订单消息的异步处理。当用户下单后,订单信息会被发送到Kafka的一个Topic中,然后订单处理系统会从该Topic中消费订单消息,进行订单处理。

模拟数据

以下是一条模拟订单数据的JSON格式:

{

"order_id": 1,

"user_id": 1001,

"product_id": 2001,

"quantity": 1,

"amount": 100.0

}

我们可以根据这个格式生成100条模拟数据,并发送到Kafka的order_topic中进行订单处理。

要求:

1) 将模拟数据发送到kafka消息队列中

2) 接收kafka队列中的订单信息,并打印到控制台

相关知识点:kafka发送、接收消息

报错

brokerid 102-0 103-1 104-2 报错

文心一言

kafka配置文件

kafka日志查看

state-change.log 报错

Failed to elect leader for partition __consumer_offsets-27 under strategy

文心一言

网络解决办法

问题原因 新增加的副本的offset 副本的offset比leader的新 所以在elect的时候出现问题

在kafka的home path 的bin目录下 执行自带平衡topic 脚本

尝试执行命令 还是报错

解决

修改kafka配置文件server.properties

1)zookeeper修改为单机

2)num.partitions,offsets.topic.replication.factor保持为1

3)选择性将监听注释

再次启动kafka服务,开启消费者和生产者,发现生产的消息,本机无法消费到,原因应该是zookeeper目录下的_consumer_offset有问题,默认偏移量出错,导致接收不到,除非是从头消费。

将consumer_offset 删除

具体看参考

最终问题解决

参考
生产者可以顺利发送消息,消费者接受不到消息的处理方法

相关推荐
学到头秃的suhian2 小时前
消息队列简介及安装
kafka
江不清丶6 小时前
Kafka消息幂等性深度解析:从重复消费到Exactly-Once的终极方案
分布式·kafka
做一个AK梦7 小时前
RedisForValueService.setIfAbsent()
java·分布式
sunxunyong10 小时前
spark History Server 重启失败
大数据·分布式·spark
阿Y加油吧12 小时前
一篇文章速通kafka——day01
kafka
摇滚侠12 小时前
Java 项目教程《黑马商城-ElasticSearch 篇》,分布式架构项目,从开发到部署
java·分布式·elasticsearch
czlczl2002092513 小时前
Redis分布式缓存与持久化 杂知识
redis·分布式·缓存
fengxin_rou15 小时前
黑马点评实战篇|第六篇:秒杀优化
java·开发语言·数据库·redis·分布式
Francek Chen15 小时前
【大数据存储与管理】分布式数据库HBase:04 HBase的实现原理
大数据·数据库·hadoop·分布式·hbase
future021015 小时前
Kafka消息幂等性实战指南
kafka