学习kafka和flink

kafka

kafka安装一套流程

方法一:启动需安装zookeeper和kafka

【Kafka】Windows下安装Kafka(图文记录详细步骤)

安装Tzq@2018写的上面链接安装的,一切很顺利,除了zookeeper的环境变量不管如何配置都不管用,只能手动双击zkServer.cmd启动zookeeper了

方法二:启动只需安装kafka
复制代码
首先通过上面链接下载kafka压缩包,解压到D盘(其他盘也可以)根目录下
如D:\kafkaCluster

将解压得到的文件夹命名为kafka-zookeeper(这是因为3.5版本以上自带了zookeeper启动,只是需要一些额外配置)

最后,我们会得到这样一个文件

修改kafka-zookeeper/config/zookeeper.properties中dataDir=后面的路径,改为D:\kafkaCluster\kafka-zookeeper\logs\zk(这里的路径都是基于上面kafka解压后的路径,大家如果想要修改的可以自行全部替换)

接着将kafka-zookeeper文件夹复制三份,分别重命名为kafka-broker-1、kafka-broker-2、kafka-broker-3,得到如下文件结构

接下来以kafka-broker-1举例进行如下操作,这些操作均要在kafka-broker-2、kafka-broker-3中进行

在D:\kafkaCluster\kafka-broker-1下创建logs文件夹

接着进入D:\kafkaCluster\kafka-broker-1\config,打开server.properties

修改broker.id=0改为broker.id=1

在#listeners=PLAINTEXT://:9092下面新增一行

listeners=PLAINTEXT://localhost:9091

将"log.dirs="后面的内容改为D:\kafkaCluster\kafka-broker-1\logs

同理,在kafka-broker-2中,id改为2,9092,kafka-broker-2;在kafka-broker-3中,id改为3,9093,kafka-broker-3

最后封装启动代码

在D:\kafkaCluster目录下新建

cluster.cmd

将以下内容复制进去

复制代码
cd kafka-zookeeper
start zk.cmd
ping 127.0.0.1 -n 10 >nul
cd ../kafka-broker-1
start kfk.cmd
cd ../kafka-broker-2
start kfk.cmd
cd ../kafka-broker-3
start kfk.cmd

在D:\kafkaCluster目录下新建

cluster-clear.cmd

将以下内容复制进去

复制代码
cd kafka-zookeeper
rd /s /q data
cd ../kafka-broker-1
rd /s /q data
cd ../kafka-broker-2
rd /s /q data
cd ../kafka-broker-3

第一次启动时将前面创建的所有logs和zk文件夹保持为空文件夹状态

启动时,双击cluster.cmd,等几秒就成功了

启动第一秒出现如下内容

等几秒会出现

说明启动成功!

相关推荐
Hello.Reader11 小时前
Flink ZooKeeper HA 实战原理、必配项、Kerberos、安全与稳定性调优
安全·zookeeper·flink
执笔论英雄11 小时前
【大模型学习cuda】入们第一个例子-向量和
学习
wdfk_prog11 小时前
[Linux]学习笔记系列 -- [drivers][input]input
linux·笔记·学习
Gary Studio13 小时前
rk芯片驱动编写
linux·学习
mango_mangojuice13 小时前
Linux学习笔记(make/Makefile)1.23
java·linux·前端·笔记·学习
lingggggaaaa14 小时前
安全工具篇&动态绕过&DumpLsass凭据&Certutil下载&变异替换&打乱源头特征
学习·安全·web安全·免杀对抗
PP东14 小时前
Flowable学习(二)——Flowable概念学习
java·后端·学习·flowable
学电子她就能回来吗14 小时前
深度学习速成:损失函数与反向传播
人工智能·深度学习·学习·计算机视觉·github
Hello.Reader14 小时前
Flink 使用 Amazon S3 读写、Checkpoint、插件选择与性能优化
大数据·flink