本地windows搭建kafka

记录一下在window环境下搭建kafka的情况,说简单也简单,说不简单也不简单。在搭建的过程遇到过几个问题。

下载安装包

这里下载的是kafka_2.13-3.4.1
https://archive.apache.org/dist/kafka/3.4.1/kafka_2.13-3.4.1.tgz

正常情况下会下载比较慢

解压安装包及做简单配置

在解压的文件夹下新建data和kafka-logs文件夹

在config目录下的server.properties和zookeeper.properties分别配置

server.properties中配置log.dirs=D:\software\kafka_2.13-3.4.1\kafka-logs

zookeeper.properties中配置dataDir=D:\software\kafka_2.13-3.4.1\data

后面发现并没有按照配置生成,先不研究了什么原因了,能用就行吧~

启动服务

先启动zookeeper

bash 复制代码
.\bin\windows\zookeeper-server-start.bat  .\config\zookeeper.properties

正常会看到binding to port...... 不关闭页面

启动Kafka

bash 复制代码
.\bin\windows\kafka-server-start.bat .\config\server.properties

启动成功后会有complete字眼打出

创建测试topic

bash 复制代码
.\bin\windows\kafka-topics.bat --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic test

启动生产者

bash 复制代码
.\bin\windows\kafka-console-producer.bat --bootstrap-server localhost:9092 --topic test

启动消费者

bash 复制代码
.\bin\windows\kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic test --from-beginning

在创建消费者的过程中出现这个错误java.io.IOException: Map failed

去调整kafka-server-start.bat文件中参数,根据电脑版本32位还是64位的,这里将64位的地方1G修改为了256M,再去启动消费者,就没有错误了

一些其他命令

shell 复制代码
// 查看所有的group
./kafka-consumer-groups.sh --bootstrap-server localhost:9092 --list
// 查看指定group
./kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group [group-name] --describe

// 查看topic列表
./kafka-topics.sh --zookeeper localhost:9092 --list
// 查看指定topic详情
./kafka-topics.sh --zookeeper localhost:9092 --topic [topic] --describe
// 删除topic
kafka-topics.sh --delete --bootstrap-server localhost:9092 --topic test

Tips:

在cmd中窗口中发送中文字符,在消费者端接收的是乱码,是因为cmd窗口是gbk编码导致的

相关推荐
swg3213212 小时前
Kafka基于ZK和KRaft的设计原理与差异
分布式·kafka
gb448oww52 小时前
Redis分布式锁进阶第三十五篇
数据库·redis·分布式
诚信定制8393 小时前
PrivaZer逆向解析:深度清理背后的三大隐患
windows
2601_962440844 小时前
计算机毕业设计之jsp教室管理系统
java·开发语言·笔记·分布式·算法·课程设计·推荐算法
love530love7 小时前
WorkBuddy + 本地 ComfyUI Wan2.1 文生视频实战:从连续报错到成功出片的完整踩坑记录
人工智能·windows·python·音视频·devops·comfyui·mcp
TrisighT7 小时前
Electron 跑鸿蒙 PC 上,这 4 个 API 的行为跟 Windows 完全不一样——但文档一行都没写
windows·electron·harmonyos
阿里云云原生5 天前
数据链路再精简:Kafka 如何做到“零 ETL”一键写入 Apache Iceberg?
kafka
阿里云云原生11 天前
告别冗长链路!Kafka × Table Bucket 实现开放表格式零 ETL 实时入湖
云原生·kafka
qq_3692243317 天前
Windows全系通用!ntdll.dll文件丢失、报错、闪退问题的完整排查与修复教程
windows·dll·dll修复·dll丢失·dll错误
阿米亚波17 天前
【Windows】QEMU 启动 openEuler aarch64/arm64 架构系统 + 离线软件源
linux·windows·经验分享·笔记·架构·arm