Kafka 单节点测试环境部署实战

最近有一个测试环境项目环境需要搞个kafka,整个单节点的步骤吧,后面再上多节点的。

一、环境准备

1.1 系统要求

一台 Linux 服务器(虚拟机、物理机或云主机均可)

建议配置:2 核 CPU / 4GB 内存 / 20GB 以上磁盘空间

操作系统:CentOS 7/8/9、Ubuntu 20.04/22.04、Debian 10/11 等

bash 复制代码
sudo yum install -y java-11-openjdk-devel

1.2 验证 Java 版本

我这个是之前装好的jdk8

java -version

1.3 关闭防火墙

1.4 创建数据目录

bash 复制代码
sudo mkdir -p /data/kafka-logs

sudo chown -R $(whoami):$(whoami) /data/kafka-logs

二、安装 Kafka

2.1 下载二进制包

bash 复制代码
cd /opt

sudo wget https://archive.apache.org/dist/kafka/3.7.2/kafka_2.13-3.7.2.tgz

2.2 解压并创建软链接

bash 复制代码
sudo tar -xzf kafka_2.13-3.7.2.tgz

sudo chown -R $(whoami):$(whoami) kafka kafka_2.13-3.7.2

2.3 配置环境变量

bash 复制代码
echo "export KAFKA_HOME=/usr/local/kaf/kafka" >> ~/.bashrc
echo 'export PATH=$PATH:$KAFKA_HOME/bin' >> ~/.bashrc
source ~/.bashrc

三、配置文件修改

bash 复制代码
/usr/local/kaf/kafka/config/server.properties

vim /usr/local/kaf/kafka/config/server.properties

我一般是把原来的删了,采用这个

bash 复制代码
# broker 唯一标识,单节点设为0,后面多节点再说,目前我这边只用到一个单节点
broker.id=0

# 监听地址:0.0.0.0 表示监听所有网卡
listeners=PLAINTEXT://0.0.0.0:9092

# 本机测试用 localhost;从其他机器访问,填实际IP
advertised.listeners=PLAINTEXT:// 27.192.128.44:9092

# 日志存储目录
log.dirs=/data/kafka-logs

# ZooKeeper 连接地址(使用内置 ZooKeeper 时连接本机2181)
zookeeper.connect=localhost:2181

# 可选优化配置(单节点无需高可用,但为了测试建议设置)
num.partitions=3
default.replication.factor=1
offsets.topic.replication.factor=1
transaction.state.log.replication.factor=1
transaction.state.log.min.isr=1

四、启动服务

启动顺序:先 ZooKeeper,后 Kafka

4.1 启动 ZooKeeper(后台运行)

bash 复制代码
cd /usr/local/kaf/kafka

bin/zookeeper-server-start.sh -daemon config/zookeeper.properties

4.2 等待几秒后启动 Kafka

bash 复制代码
bin/kafka-server-start.sh -daemon config/server.properties

4.3 检查进程

bash 复制代码
jps

应看到 QuorumPeerMain(ZooKeeper) 和 Kafka 两个进程

4.4 查看日志(如有问题)

bash 复制代码
tail -f /usr/local/kaf/kafka/logs/server.log
bash 复制代码
tail -200f /usr/local/kaf/kafka/logs/zookeeper.out

五、验证部署

5.1 创建测试主题

bash 复制代码
kafka-topics.sh --create \

  --topic test-topic \

  --bootstrap-server localhost:9092 \

  --partitions 3 \

  --replication-factor 1

5.2 查看主题列表

bash 复制代码
kafka-topics.sh --list --bootstrap-server localhost:9092

5.3 查看主题详情

bash 复制代码
kafka-topics.sh --describe --topic test-topic --bootstrap-server localhost:9092

5.4 消息生产与消费测试

打开第一个终端 27.192.128.44(生产者):

bash 复制代码
kafka-console-producer.sh --topic test-topic --bootstrap-server localhost:9092

输入一些消息,每行一条,例如:

asd

asdasd

fadas

打开第二个终端 27.192.128.44(消费者):

bash 复制代码
kafka-console-consumer.sh --topic test-topic --from-beginning --bootstrap-server localhost:9092

应该立即看到之前输入的消息。

至此,单节点 Kafka 已成功部署并验证。

六、停止服务

停止顺序:先 Kafka,后 ZooKeeper。

bash 复制代码
cd /usr/local/kaf/kafka
bash 复制代码
# 停止 Kafka
bin/kafka-server-stop.sh


# 停止 ZooKeeper
bin/zookeeper-server-stop.sh

Jps一下,看看进程消失没消失即可。

其他的就是写代码链接啥的推送啊消费啥的,主要是我们有一个测试环境要用到,一台足够测试用了。。

相关推荐
跨境数据猎手16 小时前
大数据在电商行业的应用
大数据·运维·爬虫
绿算技术17 小时前
万卡推理集群存储选型分析:从核心架构到应用视角
大数据·科技·算法·架构
朴马丁18 小时前
预制菜的“数字厨房”:PLM如何支撑菜品标准化与供应链高效协同?
大数据·人工智能·食品行业·流程行业plm
奋斗的老史20 小时前
Spring-Boot 集成 TDengine 完整实战
大数据·时序数据库·tdengine
郑洁文20 小时前
音乐数据分析研究与应用
大数据·数据挖掘·数据分析·音乐数据分析
成长之路51421 小时前
【实证分析】地市环境规制综合指数测算-原始数据+do代码(2011-2024年)
大数据
逸模21 小时前
AI+BIM 重构连锁公装新范式 逸模打造数字化营建核心底座
大数据·人工智能·笔记·其他·信息可视化·重构
谁似人间西林客1 天前
工业大数据实战:看中国智造如何用数据驱动效率革命
大数据·单例模式
2501_933670791 天前
数学成绩偏弱是否能填报大数据专业
大数据
陆水A1 天前
【实时数仓·3】Flink多表JOIN状态爆炸——Event Time Temporal JOIN + TTL分层治理
大数据·数据仓库·数据分析·flink·数据库开发·bigdata