KAFKA搭建教程

KAFKA搭建教程

期待您的关注

KAFKA学习笔记 帮助更多人

目录

KAFKA搭建教程

1.下载Kafka并解压

2.添加环境变量

[3.修改 server.properties 文件](#3.修改 server.properties 文件)

4.将kafka复制到其它节点

5.修改node1、node2节点的broker.id

[6.将master的环境变量同步到node1、 node2](#6.将master的环境变量同步到node1、 node2)

7.启动zookeeper

8.启动Kafka


1.下载Kafka并解压

下载地址:大数据相关文件快速下载入口 (qq.com)

2.添加环境变量

html 复制代码
vim /etc/profile


export KAFKA_HOME=/usr/local/soft/kafka_2.11-2.0.0
export path=$PATH:$KAFKA_HOME/bin


source /etc/profile

3.修改 server.properties 文件

html 复制代码
cd /usr/local/soft/kafka_2.11-2.0.0/config

vim server.properties


broker.id=0 每一个节点broker.id 要不一样

log.dirs=/usr/local/soft/kafka_2.11-2.0.0/data

zookeeper.connect=master:2181,node1:2181,node2:2181 消息(数据)存放的位置

4.将kafka复制到其它节点

html 复制代码
cd /usr/local/soft

scp -r kafka_2.11-2.0.0 node1:`pwd`
scp -r kafka_2.11-2.0.0 node2:`pwd`

5.修改node1、node2节点的broker.id

java 复制代码
(1) 切换node1节点

cd /usr/local/soft/kafka_2.11-2.0.0/config/

vim server.properties
	
修改
broker.id=1     ( master=0   node1=1  node2=2 )


(2) 切换node2节点

cd /usr/local/soft/kafka_2.11-2.0.0/config/

vim server.properties
	
修改
broker.id=2     ( master=0   node1=1  node2=2 )

6.将master的环境变量同步到node1、 node2

java 复制代码
scp -r /etc/profile node1:/etc/
	
scp -r /etc/profile node2:/etc/


source /etc/profile
source /etc/profile

============= Kafka 搭建完毕 ================

=============== 启动 Kafka ==================

7.启动zookeeper

java 复制代码
1) 启动zookeeper  -- 需要在master、 node1、 node2 任意位置启动
 
zkServer.sh start

2) 查看ZK状态
 
zkServer.sh status
 

8.启动Kafka

java 复制代码
kafka-server-start.sh -daemon /usr/local/soft/kafka_2.11-2.0.0/config/server.properties

jps查看进程

相关推荐
悻运6 分钟前
如何配置Spark
大数据·分布式·spark
懒惰的橘猫17 分钟前
Spark集群搭建之Yarn模式
大数据·分布式·spark
2401_8242568631 分钟前
Spark-Streaming
大数据·分布式·spark
知其_所以然2 小时前
如何使用@KafkaListener实现从nacos中动态获取监听的topic
kafka
淋一遍下雨天2 小时前
Spark-Streaming核心编程
大数据·kafka
爱吃泡芙的小白白5 小时前
爬虫学习——使用HTTP服务代理、redis使用、通过Scrapy实现分布式爬取
redis·分布式·爬虫·http代理·学习记录
樟小叶_公众号同名5 小时前
Kafka运维经验
后端·kafka
小名叫咸菜7 小时前
flume整合Kafka和spark-streaming核心编程
kafka·flume
什么芮.8 小时前
spark-streaming
pytorch·sql·spark·kafka·scala
桑榆08069 小时前
Kafka简介
spark·kafka