idea启动kafka源码

构建篇

1.windows

1.1前提准备,基于zookeeper下kafka源码构建启动

|-----------|------------|----------------------------------------------|
| 前提条件 | 版本 | 注意 |
| jdk | 21 | |
| scala | 2.12.8 | |
| gradle | 8.10.2 | |
| zookeeper | 3.8.5 | 这里有坑,zookeeper要和kafka的版本匹配,不然启动不报错,但是实际会没起起来 |
| kafka | 3.9.1.-rc2 | |
| | | |

开源镜像地址下载zookeeper,阿里镜像下载地址-zookeeper-3.8.5,直接用windows解压会报错,使用tar -zxvf解压

复制代码
tar -zxvf apache-zookeeper-3.8.5-bin.tar.gz

#进入 conf目录
mv zoo_sample.cfg zoo.cfg

#修改zoo.cfg下的dataDir,配置路径
dataDir=D:/sourceCode/zookeeper/data

windows环境直接双击zkServer.cmd启动

1.2.本地构建kafka源码

先去github,gitclone源码地址

可以先git切换到对应的分支,然后在idea中导入kafka

我建议先用命令行执行构建,从我的个人使用上来说,更快

复制代码
./gradlew clean build -x test

在core模块下的scala的kafka的main方法里面添加日志,方便观察

复制代码
println(">>>Starting Kafka<<<")

1.3脚本验证

验证kafka topic list

复制代码
./kafka-topics.sh --list --bootstrap-server 127.0.0.1:9092

创建topic

复制代码
./kafka-topics.sh --create --bootstrap-server 127.0.0.1:9092 --replication-factor 1 --partitions 1 --topic test

1.4异常提示

复制代码
> Task :core:Kafka.main()
>>>Starting Kafka<<<
SLF4J: Failed to load class "org.slf4j.impl.StaticLoggerBinder".
SLF4J: Defaulting to no-operation (NOP) logger implementation
SLF4J: See http://www.slf4j.org/codes.html#StaticLoggerBinder for further details.
SLF4J: Failed to load class "org.slf4j.impl.StaticMDCBinder".
SLF4J: Defaulting to no-operation MDCAdapter implementation.
SLF4J: See http://www.slf4j.org/codes.html#no_static_mdc_binder for further details.

不管千问,Stack Overflow等去查,都不太能找到问题。最后还是回归到这个提示。

答案藏在:http://www.slf4j.org/codes.html#StaticLoggerBinder

开篇第一段就提示了:

Placing one (and only one) of the many available providers such as slf4j-nop.jar slf4j-simple.jar , slf4j-reload4j.jar , slf4j-jdk14.jar or logback-classic.jar on the class path will solve the problem.

替换slf4j-nop.jar slf4j-simple.jar , slf4j-reload4j.jar , slf4j-jdk14.jar 其中之一就可以了,于是我们可以在kafka源码下的gradle文件夹下dependencies.gradle的version[]配置下添加

log4j_fix: "1.7.36"

在libs+[]配置下添加

log4jFix:"org.slf4j:slf4j-log4j12:$versions.log4j_fix"

然后在build.gradle文件,找到project(':core')配置,添加以下配置

implementation libs.log4jFix

1.5启动kafka

然后找到源码下,core模块,scala文件夹下的kafka,点击启动

相关推荐
indexsunny2 小时前
互联网大厂Java面试实战:核心技术与微服务架构解析
java·数据库·spring boot·缓存·微服务·面试·消息队列
想用offer打牌2 小时前
非常好用的工具: curl
java·后端·github
·云扬·2 小时前
ClickHouse数据备份与恢复实战:从基础操作到工具应用
android·java·clickhouse
程序员清风2 小时前
贝壳一面:Spring是怎么实现的?谈谈你的理解?
java·后端·面试
坚持学习前端日记2 小时前
后台管理系统文档
java·开发语言·windows·spring boot·python·spring
雨中飘荡的记忆2 小时前
Spring Security入门:从零开始构建安全应用
java·安全·spring
凯哥Java2 小时前
MaxKB4J:基于Java的高效知识库问答系统与工作流智能解决方案
java·开发语言
悟能不能悟2 小时前
Postman Pre-request Script 详细讲解与高级技巧
java·开发语言·前端
虫小宝2 小时前
企业微信客户联系API在Java微服务中的幂等性设计与重试机制
java·微服务·企业微信