本地windows搭建kafka

记录一下在window环境下搭建kafka的情况,说简单也简单,说不简单也不简单。在搭建的过程遇到过几个问题。

下载安装包

这里下载的是kafka_2.13-3.4.1
https://archive.apache.org/dist/kafka/3.4.1/kafka_2.13-3.4.1.tgz

正常情况下会下载比较慢

解压安装包及做简单配置

在解压的文件夹下新建data和kafka-logs文件夹

在config目录下的server.properties和zookeeper.properties分别配置

server.properties中配置log.dirs=D:\software\kafka_2.13-3.4.1\kafka-logs

zookeeper.properties中配置dataDir=D:\software\kafka_2.13-3.4.1\data

后面发现并没有按照配置生成,先不研究了什么原因了,能用就行吧~

启动服务

先启动zookeeper

bash 复制代码
.\bin\windows\zookeeper-server-start.bat  .\config\zookeeper.properties

正常会看到binding to port...... 不关闭页面

启动Kafka

bash 复制代码
.\bin\windows\kafka-server-start.bat .\config\server.properties

启动成功后会有complete字眼打出

创建测试topic

bash 复制代码
.\bin\windows\kafka-topics.bat --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic test

启动生产者

bash 复制代码
.\bin\windows\kafka-console-producer.bat --bootstrap-server localhost:9092 --topic test

启动消费者

bash 复制代码
.\bin\windows\kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic test --from-beginning

在创建消费者的过程中出现这个错误java.io.IOException: Map failed

去调整kafka-server-start.bat文件中参数,根据电脑版本32位还是64位的,这里将64位的地方1G修改为了256M,再去启动消费者,就没有错误了

一些其他命令

shell 复制代码
// 查看所有的group
./kafka-consumer-groups.sh --bootstrap-server localhost:9092 --list
// 查看指定group
./kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group [group-name] --describe

// 查看topic列表
./kafka-topics.sh --zookeeper localhost:9092 --list
// 查看指定topic详情
./kafka-topics.sh --zookeeper localhost:9092 --topic [topic] --describe
// 删除topic
kafka-topics.sh --delete --bootstrap-server localhost:9092 --topic test

Tips:

在cmd中窗口中发送中文字符,在消费者端接收的是乱码,是因为cmd窗口是gbk编码导致的

相关推荐
还是鼠鼠1 小时前
Redisson实现的分布式锁能解决主从一致性的问题吗?
java·数据库·redis·分布式·缓存·面试·redisson
G***E3161 小时前
区块链在能源中的分布式交易
分布式·区块链·能源
O***Z6162 小时前
Redis——Windows安装
数据库·windows·redis
y***03173 小时前
如何在Windows系统上安装和配置Node.js及Node版本管理器(nvm)
windows·node.js
BD_Marathon4 小时前
【Zookeeper】 Zookeeper入门
分布式·zookeeper·云原生
qq_336313934 小时前
java基础-集合进阶
java·开发语言·windows
乌恩大侠5 小时前
AI-RAN 在 Spark上部署 Sionna-RK
大数据·分布式·spark
深瞳智检6 小时前
学习应用 第001期-Windows 10 用 CMD 安装 MySQL 全流程解析(免安装版)
数据库·windows·mysql·压缩包·环境安装
q***44816 小时前
从零开始在Windows系统上搭建一个node.js后端服务项目
windows·node.js
csdn_aspnet6 小时前
【探索实战】Kurator入门体验与分布式云原生环境搭建
分布式·云原生·kurator