idea启动kafka源码

构建篇

1.windows

1.1前提准备,基于zookeeper下kafka源码构建启动

|-----------|------------|----------------------------------------------|
| 前提条件 | 版本 | 注意 |
| jdk | 21 | |
| scala | 2.12.8 | |
| gradle | 8.10.2 | |
| zookeeper | 3.8.5 | 这里有坑,zookeeper要和kafka的版本匹配,不然启动不报错,但是实际会没起起来 |
| kafka | 3.9.1.-rc2 | |
| | | |

开源镜像地址下载zookeeper,阿里镜像下载地址-zookeeper-3.8.5,直接用windows解压会报错,使用tar -zxvf解压

复制代码
tar -zxvf apache-zookeeper-3.8.5-bin.tar.gz

#进入 conf目录
mv zoo_sample.cfg zoo.cfg

#修改zoo.cfg下的dataDir,配置路径
dataDir=D:/sourceCode/zookeeper/data

windows环境直接双击zkServer.cmd启动

1.2.本地构建kafka源码

先去github,gitclone源码地址

可以先git切换到对应的分支,然后在idea中导入kafka

我建议先用命令行执行构建,从我的个人使用上来说,更快

复制代码
./gradlew clean build -x test

在core模块下的scala的kafka的main方法里面添加日志,方便观察

复制代码
println(">>>Starting Kafka<<<")

1.3脚本验证

验证kafka topic list

复制代码
./kafka-topics.sh --list --bootstrap-server 127.0.0.1:9092

创建topic

复制代码
./kafka-topics.sh --create --bootstrap-server 127.0.0.1:9092 --replication-factor 1 --partitions 1 --topic test

1.4异常提示

复制代码
> Task :core:Kafka.main()
>>>Starting Kafka<<<
SLF4J: Failed to load class "org.slf4j.impl.StaticLoggerBinder".
SLF4J: Defaulting to no-operation (NOP) logger implementation
SLF4J: See http://www.slf4j.org/codes.html#StaticLoggerBinder for further details.
SLF4J: Failed to load class "org.slf4j.impl.StaticMDCBinder".
SLF4J: Defaulting to no-operation MDCAdapter implementation.
SLF4J: See http://www.slf4j.org/codes.html#no_static_mdc_binder for further details.

不管千问,Stack Overflow等去查,都不太能找到问题。最后还是回归到这个提示。

答案藏在:http://www.slf4j.org/codes.html#StaticLoggerBinder

开篇第一段就提示了:

Placing one (and only one) of the many available providers such as slf4j-nop.jar slf4j-simple.jar , slf4j-reload4j.jar , slf4j-jdk14.jar or logback-classic.jar on the class path will solve the problem.

替换slf4j-nop.jar slf4j-simple.jar , slf4j-reload4j.jar , slf4j-jdk14.jar 其中之一就可以了,于是我们可以在kafka源码下的gradle文件夹下dependencies.gradle的version\[\]配置下添加

log4j_fix: "1.7.36"

在libs+\[\]配置下添加

log4jFix:"org.slf4j:slf4j-log4j12:$versions.log4j_fix"

然后在build.gradle文件,找到project(':core')配置,添加以下配置

implementation libs.log4jFix

1.5启动kafka

然后找到源码下,core模块,scala文件夹下的kafka,点击启动

相关推荐
龙虾PRO1 小时前
能源与股票量化核心差异,AI全链路落地实操手册
java·面试·职场和发展
llwszx1 小时前
【Java/Go后端手撸原生Agent(第九篇):Plan-and-Execute规划模式——从“走一步看一步“到“先谋后动“】
java·python·golang·agent开发·plan模式·规划执行模式
ZJH__GO1 小时前
网络编程v2--多客户端互通
java·运维·服务器·开发语言·计算机网络
霸道流氓气质1 小时前
SpringBoot中基于 AES-GCM + KMS 密钥管理的数据加解密 Starter 实践
java·数据库·spring boot
Gofarlic_OMS2 小时前
NX浮动许可调度黑名单机制,对比两款谁更合理
java·大数据·运维·开源·制造
乐观的Terry2 小时前
8、发布系统-完整流水线的核心
java·spring boot·spring·spring cloud
Alexalbb2 小时前
从角色过滤到可审计授权:单体系统数据权限设计复盘与演进
java
万亿少女的梦1682 小时前
基于Spring Boot的游戏交易管理系统设计与实现
java·spring boot·mysql·系统设计·交易管理
闲猫3 小时前
Agent工程实践:从WorkFlow到多Agent协作的落地笔记
java·服务器·前端
笨蛋不要掉眼泪3 小时前
Java虚拟机:常用参数
java·开发语言·python