kafka安装部署,和基本操作

kafka下载地址:Apache Kafka

我这里下载3.5.1

2、通过rz命令上传到linux服务器

3、解压

复制代码
tar -zxvf kafka_2.12-3.5.1.tgz

4、在config目录下修改配置文件server.properties

主要修改这两处:

复制代码
#监听的端口

advertised.listeners=PLAINTEXT://自己的ip:9092

# 数据存储的⽬录 
log.dirs=/var/opt/kafka/kafka-logs

# 底层存储的数据(日志)留存时长(默认7天)
log.retention.hours=168

# 底层存储的数据(日志)留存量(默认1G)
#log.retention.bytes=1073741824

# 指定zk集群地址
zookeeper.connect=localhost:2181

使用kafka内部zookeeper

复制代码
./bin/zookeeper-server-start.sh ./config/zookeeper.properties >/dev/null 2>&1 &

启动kafka

复制代码
./bin/kafka-server-start.sh ./config/server.properties >/dev/null 2>&1 &

启动kafka报错:

数据存储的⽬录

log.dirs=,删除该目录下文件,再重启

kafka-topics.sh 创建 topic

复制代码
./bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic myTopic

这将在本地Zookeeper实例上创建一个名为"myTopic"的Topic,使用单个副本和单个分区。

您可以更改副本因子和分区数,具体取决于您的需求。

--replication-factor 副本数

--partitions 分区数

使用旧版命令行报错:

./bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 10 --topic cjj_gps

./bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 10 --topic gps_log_topic

查看存在的topic:

复制代码
./kafka-topics.sh --bootstrap-server localhost:9092 --list
相关推荐
帅次3 小时前
系统分析师-大数据处理系统分析与设计
数据仓库·elasticsearch·kafka·hbase·数据库开发·数据库架构·big data
王莽v28 小时前
序列并行-负载均衡
人工智能·分布式
optimistic_chen8 小时前
【Redis系列】分布式锁
linux·数据库·redis·分布式·缓存
鱼跃鹰飞9 小时前
大厂面试真题-说说kafka消费端幂等性?
面试·职场和发展·kafka
王莽v210 小时前
FlashAttention 学习笔记:从公式到分布式
人工智能·分布式
王莽v210 小时前
LLM 分布式推理:切分、通信与优化
人工智能·分布式
SJLoveIT11 小时前
【深度复盘】Redis 分布式锁:从 SETNX 到 Redisson 看门狗的架构权衡
redis·分布式·架构
【赫兹威客】浩哥11 小时前
【赫兹威客】完全分布式Flink测试教程
大数据·分布式·flink
予枫的编程笔记11 小时前
【Redis实战进阶篇1】Redis 分布式锁:从手写实现到 Redisson 最佳实践
redis·分布式·wpf
瑶山11 小时前
Spring Cloud微服务搭建二、分布式定时任务Quartz+MySQL接入
分布式·mysql·spring cloud·微服务·quartz