Windows系统下使用Kafka和Zookeeper,Python运行kafka(二)

1.配置 Zookeeper

进入解压后的 Zookeeper 目录(例如 F:\zookeeper\conf),复制 zoo_sample.cfg 文件并命名为 zoo.cfg(如果 zoo.cfg 已经存在,则直接编辑该文件)。

打开 zoo.cfg 文件,配置相关参数:

bash 复制代码
# 数据存储目录
dataDir=F:/zookeeper/data
# 日志存储目录
dataLogDir=F:/zookeeper/logs
# 客户端连接端口,默认 2181
clientPort=2181
# 初始化领导者选举和同步的配置,一般保持默认即可
initLimit=5
syncLimit=2
# 配置 Zookeeper 集群(单机模式下无需配置)
# server.1=localhost:2888:3888

确保 dataDir 和 dataLogDir 目录存在,如果不存在则手动创建。

可以看到有dataDir

只改了这个地方

与此同时,创建文件夹

2.启动 Zookeeper

进入 Zookeeper 的 bin 目录(例如 F:\zookeeper\bin),打开命令提示符,执行以下命令启动 Zookeeper:

bash 复制代码
.\zkServer.cmd

如果启动成功,会看到类似以下的日志信息:

3.配置 Kafka 使用外部 Zookeeper

打开 Kafka 的配置文件 config/server.properties,修改 zookeeper.connect 参数,指定自己的 Zookeeper 地址和端口:

bash 复制代码
zookeeper.connect=localhost:2181

这里的 localhost:2181 是 Zookeeper 的默认地址和端口,如果你的 Zookeeper 配置了其他地址或端口,则需要相应修改。

4.启动 Kafka

进入 Kafka 的目录,执行以下命令启动 Kafka

bash 复制代码
.\bin\windows\kafka-server-start.bat .\config\server.properties

5.安装Kafka插件

安装完成点击这个kafka插件

如果没有topic主题是连接不了的

使用以下代码创建一个名为test的topic主题,3个分区,2个副本,前提是先启动 Zookeeper 和 Kafka

python 复制代码
from kafka.admin import KafkaAdminClient, NewTopic
from kafka.errors import TopicAlreadyExistsError

# 配置 Kafka 服务器地址
bootstrap_servers = ['localhost:9092']

# 创建 Kafka 管理客户端实例
admin_client = KafkaAdminClient(bootstrap_servers=bootstrap_servers)

# 要创建的主题信息
topic_name = 'test'
num_partitions = 3  # 分区数量
replication_factor = 1  # 副本因子,调整为不超过可用 Broker 数量

try:
    # 创建新主题
    topic = NewTopic(name=topic_name, num_partitions=num_partitions, replication_factor=replication_factor)
    admin_client.create_topics([topic])
    print(f"主题 {topic_name} 创建成功,分区数: {num_partitions},副本因子: {replication_factor}")
except TopicAlreadyExistsError:
    print(f"主题 {topic_name} 已存在,无需再次创建")
except Exception as e:
    print(f"创建主题 {topic_name} 时出错: {e}")
finally:
    # 关闭管理客户端
    admin_client.close()
    

有了一个test主题,就可以连接了

接下来发送1000条消息

python 复制代码
for i in range(1000):
    message = f"message{i+1}"
    # 发送消息
    future = producer.send(topic, message)
相关推荐
如若1238 小时前
Windows SSH + Headscale/Tailscale 组网及免密登录完整配置教程
运维·windows·ubuntu·ssh·内网穿透
ITHAOGE1510 小时前
下载 | Win11 25H2 官方正式版ISO映像!(10月更新、消费者版/专业版、商业版/企业版、26200.9711)
windows·科技·微软·电脑
John_Hui10 小时前
Windows 10 安装版本:mysql-8.1.0-winx64.zip
数据库·windows·mysql
kingx310 小时前
Windows Server安全配置深度复盘:关键 Payload 与解题思路
windows·靶场·web·加固
技术人生00110 小时前
DirectX修复工具下载安装教程-Windows系统游戏dll修复工具下载安装修复教程
windows·游戏
2601_9623649712 小时前
企业 PC 安全升级,Windows Hello 商用生物识别模组介绍
windows·安全
2501_9160074714 小时前
Windows OpenSSL 生成 iOS 证书,制作 p12 与描述文件,KXBuild 签名实操
windows·vscode·ios·objective-c·个人开发·swift·敏捷流程
一条泥憨鱼14 小时前
【Kafka】零基础学习教程
java·分布式·学习·kafka
椒颜皮皮虾྅16 小时前
模型部署不再卡在环境上:DeploySharp 四大推理引擎与 Windows/Linux 离线交付实战
linux·运维·开发语言·人工智能·windows·计算机视觉·cuda
96245616 小时前
补打一条卡,为什么要从前一天重新算:人工补录与实时重算业务复盘
java·mysql·kafka