Kafka

打开jps

创建topic: kafka-topics.sh --create --zookeeper node01:2181,node02:2181,node03:2181 --topic test1 --partitions 3 --replication-factor 3

查看所有的topic kafka-topics.sh --list --zookeeper node01:2181,node02:2181,node03:2181

查看某个topic的详细信息

kafka-topics.sh --describe --zookeeper node01:2181,node02:2181,node03:2181 --topic test1

删除topic: kafka-topics.sh --delete --zookeeper node01:2181,node02:2181,node03:2181 --topic test1

消费数据

Kafka和其他组件的整合

配置文件

|----------------------------------------------------------------------------------------------------------------------------------------------------|
| **kafka中创建topic:**kafka-topics.sh --create --zookeeper node01:2181,node02:2181,node03:2181 --topic testTopic --partitions 3 --replication-factor 3 |
| 启动flume: |
| flume-ng agent -c /opt/software/flume/conf/ -f /opt/software/flume/conf/flume-kafka.conf -n a1 -Dflume.root.logger=INFO,console |
| 启动kafka消费者,验证数据写入成功 |
| kafka-console-consumer.sh --topic testTopic --bootstrap-server node01:9092,node02:9029,node03:9092 --from-beginning |

**启动Kafka生产者:**kafka-console-producer.sh --broker-list node01:9092,node02:9092,node03:9092 --topic testTopic

**启动Flume:**flume-ng agent -c /opt/software/flume/conf/ -f /opt/software/flume/conf/kafka-flume.conf -n a1 -Dflume.root.logger=INFO,console

代码

输入输出

相关推荐
欧先生^_^3 小时前
Spark 的一些典型应用场景及具体示例
大数据·分布式·spark
和算法死磕到底5 小时前
ubantu18.04(Hadoop3.1.3)之Spark安装和编程实践
大数据·hadoop·pycharm·spark
嘟嘟嘟嘟嘟嘟嘟.8 小时前
spark和hadoop之间的对比和联系
hadoop·spark
欧先生^_^8 小时前
Apache Spark 源码解析
大数据·spark·apache
L_pyu14 小时前
flume整合kafka
大数据·spark
weixin_3077791317 小时前
PySpark实现ABC_manage_channel逻辑
开发语言·python·spark
瞎胡侃1 天前
Spark读取Apollo配置
大数据·spark·apollo
悻运1 天前
如何配置Spark
大数据·分布式·spark
懒惰的橘猫1 天前
Spark集群搭建之Yarn模式
大数据·分布式·spark