kafka实战报错解决问题

需求

在一个在线商城中,用户下单后需要进行订单的处理。为了提高订单处理的效率和可靠性,我们使用Kafka来实现订单消息的异步处理。当用户下单后,订单信息会被发送到Kafka的一个Topic中,然后订单处理系统会从该Topic中消费订单消息,进行订单处理。

模拟数据

以下是一条模拟订单数据的JSON格式:

{

"order_id": 1,

"user_id": 1001,

"product_id": 2001,

"quantity": 1,

"amount": 100.0

}

我们可以根据这个格式生成100条模拟数据,并发送到Kafka的order_topic中进行订单处理。

要求:

1) 将模拟数据发送到kafka消息队列中

2) 接收kafka队列中的订单信息,并打印到控制台

相关知识点:kafka发送、接收消息

报错

brokerid 102-0 103-1 104-2 报错

文心一言

kafka配置文件

kafka日志查看

state-change.log 报错

Failed to elect leader for partition __consumer_offsets-27 under strategy

文心一言

网络解决办法

问题原因 新增加的副本的offset 副本的offset比leader的新 所以在elect的时候出现问题

在kafka的home path 的bin目录下 执行自带平衡topic 脚本

尝试执行命令 还是报错

解决

修改kafka配置文件server.properties

1)zookeeper修改为单机

2)num.partitions,offsets.topic.replication.factor保持为1

3)选择性将监听注释

再次启动kafka服务,开启消费者和生产者,发现生产的消息,本机无法消费到,原因应该是zookeeper目录下的_consumer_offset有问题,默认偏移量出错,导致接收不到,除非是从头消费。

将consumer_offset 删除

具体看参考

最终问题解决

参考
生产者可以顺利发送消息,消费者接受不到消息的处理方法

相关推荐
Debug Your Career1 小时前
在Spring Boot中实现Kafka动态反序列化:针对多主题的灵活数据处理
spring boot·kafka
stormsha5 小时前
深入解析Kafka JVM堆内存:优化策略与监控实践
jvm·缓存·kafka·linq
Timmer丿5 小时前
kafka学习笔记(三、消费者Consumer使用教程——使用实例及及核心流程源码讲解)
java·笔记·学习·kafka
小Mie不吃饭8 小时前
远程调用 | OpenFeign+LoadBalanced的使用
分布式·远程调用
枫叶落雨2229 小时前
RabbitMQ项目实战
分布式·rabbitmq
weixin_307779139 小时前
RabbitMQ备份与恢复技术详解:策略、工具与最佳实践
运维·分布式·rabbitmq
忆雾屿12 小时前
云原生时代 Kafka 深度实践:02快速上手与环境搭建
分布式·云原生·kafka
颯沓如流星13 小时前
Apache Kafka 实现原理深度解析:生产、存储与消费全流程
分布式·kafka·apache
Timmer丿13 小时前
kafka学习笔记(三、消费者Consumer使用教程——从指定位置消费)
java·笔记·学习·kafka