kafka和zookeeper单机部署

安装kafka需要jdk和zookeeper环境,因此先部署单机zk的测试环境。

zookeeper离线安装

下载地址:

zookeeper下载地址:Index of /dist/zookeeper

这里下载安装 zookeeper-3.4.6.tar.gz 版本,测试环境单机部署

上传服务器后解压缩

tar -zxvf zookeeper-3.4.6.tar.gz 
sudo mv zookeeper-3.4.6  /usr/local/zookeeper

配置conf文件

Zookeeper 在启动时会找zoo.cfg这个文件作为默认配置文件。

# 进入安装目录的.../conf目录下
cd conf/

# 复制样例文件
cp zoo_sample.cfg zoo.cfg

# 修改配置文件
vi zoo.cfg

# zookeeper内部的基本单位,单位是毫秒,这个表示一个tickTime为2000毫秒,在zookeeper的其他配置中,都是基于tickTime来做换算的
tickTime=2000

#集群中的follower服务器(F)与leader服务器(L)之间 初始连接 时能容忍的最多心跳数(tickTime的数量)。
initLimit=10

#syncLimit:集群中的follower服务器(F)与leader服务器(L)之间 请求和应答 之间能容忍的最多心跳数(tickTime的数量)
syncLimit=5

# 数据存放文件夹,zookeeper运行过程中有两个数据需要存储,一个是快照数据(持久化数据)另一个是事务日志
dataDir=/data/zookeeper/data

# 客户端访问端口
clientPort=2181

启动zk

# 启动服务
sh /usr/local/zookeeper/bin/zkServer.sh  start

# 查看服务状态
sh /usr/local/zookeeper/bin/zkServer.sh   status

# 测试客户端连接
sh /usr/local/zookeeper/bin/zkCli.sh

启动后查看zk状态

zookeeper参考文章:

【zookeeper安装】zookeeper安装详细教程(单机/集群部署)(linux版)-CSDN博客

zookeeper 单机版 zookeeper单机安装_蓝月亮的技术博客_51CTO博客

kafka安装

官网下载安装包

https://kafka.apache.org/downloads.html

注:kafka需要安装zookeeper使用

上传安装包解压文件:

tar -zxvf kafka_2.12-2.7.2.tgz
sudo mv kafka_2.12-2.7.2  /usr/local/kafka

修改配置文件

vim server.properties
添加或修改如下信息:

#broker的全局唯一编号,不能重复

broker.id=0

 

#用来监听链接的端口,producer或consumer将在此端口建立连接

listeners=PLAINTEXT://localhost:9092

 

#kafka消息存放的路径

log.dirs=/data/kafka/logs

 

#broker需要使用zookeeper保存meta数据

zookeeper.connect=localhost:2181 

启动kafka

前台运行
sh bin/kafka-server-start.sh ./config/server.properties

后台运行
sh bin/kafka-server-start.sh -daemon ./config/server.properties

创建topic

创建测试test的topic

sh bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

查看topic list

sh bin/kafka-topics.sh --list --zookeeper localhost:2181

生产消息

sh bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test

消费消息

sh bin/kafka-console-consumer.sh --bootstrap-server localhost:9092  --topic test
从0开始消费所有消息
sh bin/kafka-console-consumer.sh --bootstrap-server localhost:9092  --topic test --from-beginning

kafka参考文章:

Kafka最全单机安装完整步骤加测试!!_kafka单机安装-CSDN博客

复制代码
kafka和zookeeper安装 - 蜂蜜log - 博客园
相关推荐
优人ovo1 小时前
Kafka的消息协议
分布式·网络协议·kafka
言之。4 小时前
【Spark速通】
大数据·分布式·spark
大秦王多鱼5 小时前
Kafka常见问题之 `javax.management.InstanceAlreadyExistsException`
运维·分布式·kafka·apache
乙卯年QAQ7 小时前
【Hadoop】Hadoop 概述
大数据·hadoop·分布式
天选之子1237 小时前
spark运行流程
大数据·分布式·spark
李匠20247 小时前
大数据学习之Kafka消息队列、Spark分布式计算框架一
大数据·学习·kafka
想搞艺术的程序员7 小时前
Go优雅实现redis分布式锁
redis·分布式·golang
Neil Parker16 小时前
搭建Spark分布式集群
大数据·分布式·spark
WannaRunning17 小时前
Kafka生产者ACK参数与同步复制
分布式·kafka
Elastic 中国社区官方博客1 天前
Elastic Agent 对 Kafka 的新输出:数据收集和流式传输的无限可能性
大数据·分布式·elasticsearch·搜索引擎·kafka·全文检索·confluent