confluent-kafka 模块生产数据消费数据

confluent-kafka 模块生产数据消费数据

本文介绍如何使用Confluent-Kafka-Python实现Kafka生产数据消费数据。

前言

kafka是一个开源的流处理平台,一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。

confluent-kafka 是什么

confluent-kafka是Python模块,推荐使用,性能优于kafka-python

参考文档:https://docs.confluent.io/current/clients/confluent-kafka-python/index.html

confluent_kafka-python地址
复制代码
https://github.com/confluentinc/confluent-kafka-python

① 拉取confluent_kafka提供的生产者消费者用例,用例在example中。

复制代码
git clone https://github.com/confluentinc/confluent-kafka-python.git

② 安装python3

③ 安装confluent_kafka

复制代码
python3 -m pip install confluent_kafka

④ kafka地址

复制代码
127.0.0.1:9092

⑤ 测试执行producer.py生产数据,kafka地址为127.0.0.1.197:9092,topic为topic_test1

复制代码
python producer.py 127.0.0.1.197:9092 topic_test1

⑥ 输入任意数据内容。

复制代码
test_message1
test_message2
test_message3
test_message4
test_message5

⑦ 消费数据

复制代码
python consumer.py 127.0.0.1:9092 group topic_test1
相关推荐
cts6184 分钟前
Milvus分布式数据库工作职责
数据库·分布式·milvus
2401_831501731 小时前
Linux之Zabbix分布式监控篇(二)
数据库·分布式·zabbix
cui_win10 小时前
Kafka 配置参数详解:ZooKeeper 模式与 KRaft 模式对比
分布式·zookeeper·kafka
liux352812 小时前
Zabbix 分布式监控系统架构设计与优化
分布式·zabbix
cui_win14 小时前
深入理解 Kafka 核心:主题、分区与副本的协同机制
网络·分布式·kafka
淦暴尼14 小时前
基于spark的二手房数据分析可视化系统
大数据·分布式·数据分析·spark
黄雪超16 小时前
Kafka——无消息丢失配置怎么实现?
大数据·分布式·kafka
livemetee17 小时前
springboot 整合spring-kafka客户端:SASL_SSL+PLAINTEXT方式
spring boot·spring·kafka
无问81718 小时前
RabbitMQ概述和工作模式
分布式·rabbitmq·ruby
武子康21 小时前
Java-75 深入浅出 RPC Dubbo Java SPI机制详解:从JDK到Dubbo的插件式扩展
java·分布式·后端·spring·微服务·rpc·dubbo