本地windows搭建kafka

记录一下在window环境下搭建kafka的情况,说简单也简单,说不简单也不简单。在搭建的过程遇到过几个问题。

下载安装包

这里下载的是kafka_2.13-3.4.1
https://archive.apache.org/dist/kafka/3.4.1/kafka_2.13-3.4.1.tgz

正常情况下会下载比较慢

解压安装包及做简单配置

在解压的文件夹下新建data和kafka-logs文件夹

在config目录下的server.properties和zookeeper.properties分别配置

server.properties中配置log.dirs=D:\software\kafka_2.13-3.4.1\kafka-logs

zookeeper.properties中配置dataDir=D:\software\kafka_2.13-3.4.1\data

后面发现并没有按照配置生成,先不研究了什么原因了,能用就行吧~

启动服务

先启动zookeeper

bash 复制代码
.\bin\windows\zookeeper-server-start.bat  .\config\zookeeper.properties

正常会看到binding to port...... 不关闭页面

启动Kafka

bash 复制代码
.\bin\windows\kafka-server-start.bat .\config\server.properties

启动成功后会有complete字眼打出

创建测试topic

bash 复制代码
.\bin\windows\kafka-topics.bat --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic test

启动生产者

bash 复制代码
.\bin\windows\kafka-console-producer.bat --bootstrap-server localhost:9092 --topic test

启动消费者

bash 复制代码
.\bin\windows\kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic test --from-beginning

在创建消费者的过程中出现这个错误java.io.IOException: Map failed

去调整kafka-server-start.bat文件中参数,根据电脑版本32位还是64位的,这里将64位的地方1G修改为了256M,再去启动消费者,就没有错误了

一些其他命令

shell 复制代码
// 查看所有的group
./kafka-consumer-groups.sh --bootstrap-server localhost:9092 --list
// 查看指定group
./kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group [group-name] --describe

// 查看topic列表
./kafka-topics.sh --zookeeper localhost:9092 --list
// 查看指定topic详情
./kafka-topics.sh --zookeeper localhost:9092 --topic [topic] --describe
// 删除topic
kafka-topics.sh --delete --bootstrap-server localhost:9092 --topic test

Tips:

在cmd中窗口中发送中文字符,在消费者端接收的是乱码,是因为cmd窗口是gbk编码导致的

相关推荐
秃头菜狗5 小时前
八、安装 Hadoop
大数据·hadoop·分布式
零千叶7 小时前
【面试】Kafka / RabbitMQ / ActiveMQ
面试·kafka·rabbitmq
H3C-Navigator9 小时前
RPC在分布式存储系统中的应用
分布式·网络协议·rpc
李慕婉学姐9 小时前
【开题答辩过程】以《分布式菌菇销售系统》为例,不会开题答辩的可以进来看看
分布式
angushine12 小时前
Windows版本PostgreSQL定时备份
数据库·windows·postgresql
"菠萝"12 小时前
C#知识学习-015(修饰符_4)
开发语言·windows·c#
Hello.Reader13 小时前
Kafka 安全性认证、加密、授权与落地最佳实践
分布式·kafka
坐吃山猪13 小时前
Kafka09-速答-尚硅谷
kafka
在未来等你13 小时前
Kafka面试精讲 Day 24:Spring Kafka开发实战
java·spring boot·面试·kafka·消息队列·spring kafka·@kafkalistener
诗句藏于尽头14 小时前
关于七牛云OSS存储的图片数据批量下载到本地
开发语言·windows·python