2023_Spark_实验二十三:Kafka的安装与基本操作

Kafka的安装与基本操作

一、前提工作

二、Kafka安装

三、Kafka基本操作

一、前提工作

必须安装了zookeeper

单机可参考:zookeeper单机安装与配置

集群可参考:zookeeper的集群安装

二、Kafka安装

上传kafka_2.11-2.4.1.tgz到/tools目录下

解压安装到/opt/soft_installed/目录下

bash 复制代码
tar -zvxf kafka_2.11-2.4.1.tgz -C /opt/soft_installed

配置环境变量并让环境变量生效

执行:vi ~/.bash_profile 命令,添加如下信息并保存退出:

bash 复制代码
# 配置kafka集群
export KAFKA_HOME=/opt/soft_installed/kafka_2.11-2.4.1
export PATH=$PATH:$KAFKA_HOME/bin

环境变量执行生效

bash 复制代码
source ~/.bashrc

创建用于存放kafka的log目录

bash 复制代码
mkdir -p /opt/soft_installed/kafka_2.11-2.4.1/kafka-logs

配置server.properties(文件在kafka安装路径下的config目录中)

配置:vi server.properties

bash 复制代码
listeners=PLAINTEXT://node1:9092
log.dirs=/opt/soft_installed/kafka_2.11-2.4.1/kafka-logs
zookeeper.connect=node1:2181

启动kafka(先需要启动zookeeper)

bash 复制代码
# 启动zookeeper
/opt/soft_installed/zookeeper-3.4.5/bin/zkServer.sh start

# 启动kafka
kafka-server-start.sh /opt/soft_installed/kafka_2.11-2.4.1/config

验证Kafka是否成功启动

查看9092端口是否已经启动:

bash 复制代码
netstat -anop|grep 9092

或者执行:jps,查看是否有kafka进程存在

三、Kafka基本操作

创建主题topic,如test

bash 复制代码
kafka-topics.sh --create --zookeeper node1:2181 --replication-factor 1 --partitions 1 --topic test

启动控制台生产者(需要另外打开一个终端)

bash 复制代码
kafka-console-producer.sh --broker-list node1:9092 --topic test

启动控制台消费者(需要另外打开一个终端)

bash 复制代码
kafka-console-consumer.sh --bootstrap-server node1:9092 --topic test --from-beginning

测试

在生产者所在的终端中输入一些文字,如:我爱北京天安门,天安上太阳升。 i love beijing i love guizhou i love spark,按回车键

在消费者终端可以看到

查看进程,jps可以看到

查看下此时zookeeper中生成了哪些内容,执行:zkCli.sh

bash 复制代码
zkCli.sh
相关推荐
文火冰糖的硅基工坊29 分钟前
[人工智能-大模型-107]:模型层 - 神经元的功能角色:特征提取与相似度量化
大数据·人工智能
2501_9387739940 分钟前
《Hadoop 与 Spark 融合路径:基于 Spark on YARN 的部署与调优技巧》
大数据·hadoop·spark
河南博为智能科技有限公司1 小时前
十六串口服务器-解决多设备联网难题
大数据·运维·服务器·人工智能·物联网·边缘计算
2501_938791831 小时前
从原理到实操:彻底解决 Git .gitignore 文件不生效问题
大数据·git·elasticsearch
Elastic 中国社区官方博客1 小时前
如何在 Azure 虚拟机上部署 Elasticsearch
大数据·人工智能·elasticsearch·microsoft·搜索引擎·全文检索·azure
2501_938773991 小时前
大数据离线处理:使用 Airflow 调度 Hive 脚本的工作流设计
大数据·hive·hadoop
智海观潮2 小时前
Hive的架构设计和建表语义
大数据·hadoop·apache hive
Hello.Reader2 小时前
Flink Processing Timer Service 用处理时间把“准点任务”写进流里
大数据·python·flink
hans汉斯3 小时前
基于机器学习的商业银行信贷风险评估系统构建与实证研究
大数据·人工智能·爬虫·算法·yolo·机器学习·支持向量机
LgZhu(Yanker)5 小时前
R/3 销售与分销
大数据·网络·数据库·sap·erp·销售