本地windows搭建kafka

记录一下在window环境下搭建kafka的情况,说简单也简单,说不简单也不简单。在搭建的过程遇到过几个问题。

下载安装包

这里下载的是kafka_2.13-3.4.1
https://archive.apache.org/dist/kafka/3.4.1/kafka_2.13-3.4.1.tgz

正常情况下会下载比较慢

解压安装包及做简单配置

在解压的文件夹下新建data和kafka-logs文件夹

在config目录下的server.properties和zookeeper.properties分别配置

server.properties中配置log.dirs=D:\software\kafka_2.13-3.4.1\kafka-logs

zookeeper.properties中配置dataDir=D:\software\kafka_2.13-3.4.1\data

后面发现并没有按照配置生成,先不研究了什么原因了,能用就行吧~

启动服务

先启动zookeeper

bash 复制代码
.\bin\windows\zookeeper-server-start.bat  .\config\zookeeper.properties

正常会看到binding to port...... 不关闭页面

启动Kafka

bash 复制代码
.\bin\windows\kafka-server-start.bat .\config\server.properties

启动成功后会有complete字眼打出

创建测试topic

bash 复制代码
.\bin\windows\kafka-topics.bat --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic test

启动生产者

bash 复制代码
.\bin\windows\kafka-console-producer.bat --bootstrap-server localhost:9092 --topic test

启动消费者

bash 复制代码
.\bin\windows\kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic test --from-beginning

在创建消费者的过程中出现这个错误java.io.IOException: Map failed

去调整kafka-server-start.bat文件中参数,根据电脑版本32位还是64位的,这里将64位的地方1G修改为了256M,再去启动消费者,就没有错误了

一些其他命令

shell 复制代码
// 查看所有的group
./kafka-consumer-groups.sh --bootstrap-server localhost:9092 --list
// 查看指定group
./kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group [group-name] --describe

// 查看topic列表
./kafka-topics.sh --zookeeper localhost:9092 --list
// 查看指定topic详情
./kafka-topics.sh --zookeeper localhost:9092 --topic [topic] --describe
// 删除topic
kafka-topics.sh --delete --bootstrap-server localhost:9092 --topic test

Tips:

在cmd中窗口中发送中文字符,在消费者端接收的是乱码,是因为cmd窗口是gbk编码导致的

相关推荐
Edingbrugh.南空19 分钟前
Kafka 3.0零拷贝技术全链路源码深度剖析:从发送端到日志存储的极致优化
分布式·kafka
夜空晚星灿烂2 小时前
C# 关于LINQ语法和类型的使用
windows·c#·linq
路由侠内网穿透3 小时前
本地部署 Jupyter 并实现外部访问(Windows 版本)
服务器·ide·windows·网络协议·tcp/ip·jupyter
掘金-我是哪吒3 小时前
分布式微服务系统架构第150集:JavaPlus技术文档平台日更
分布式·微服务·云原生·架构·系统架构
Edingbrugh.南空3 小时前
Kafka分区机制深度解析:架构原理、负载均衡与性能优化
架构·kafka·负载均衡
ᥬ 小月亮3 小时前
Mongodb下载安装与使用(Windows版本)
windows·学习·mongodb
安科瑞王可5 小时前
“430”与“531”政策节点后分布式光伏并网技术挑战及智慧调度策略
分布式·虚拟电厂·光伏·智慧能源·自发自用
Edingbrugh.南空5 小时前
Kafka数据写入流程源码深度剖析(Broker篇)
分布式·kafka
文慧的科技江湖7 小时前
充电桩运维管理工具系统的**详细功能列表** - 慧知开源充电桩平台
运维·分布式·小程序·开源·充电桩平台·充电桩开源平台