Rust消费kafka

rust 复制代码
use futures::stream::StreamExt; // 引入 StreamExt 以使用 next() 方法
use rdkafka::config::ClientConfig;
use rdkafka::consumer::{CommitMode, Consumer, StreamConsumer};
use rdkafka::error::KafkaResult;
use rdkafka::message::{Message};

async fn run_consumer() -> KafkaResult<()> {
    let consumer: StreamConsumer = ClientConfig::new()
        .set("group.id", "test_group")
        .set("bootstrap.servers", "localhost:9092")
        .set("enable.auto.commit", "true")
        .set("session.timeout.ms", "6000")
        .set("auto.offset.reset", "earliest")
        .create()
        .expect("Consumer creation failed");

    consumer.subscribe(&["test_topic"]).expect("Can't subscribe to specified topics");

    let mut message_stream = consumer.stream();

    while let Some(message) = message_stream.next().await {
        match message {
            Ok(m) => {
                match m.payload_view::<str>() {
                    Some(Ok(payload)) => {
                        println!("Key: '{:?}', Payload: '{}'", m.key(), payload);
                    }
                    Some(Err(e)) => {
                        eprintln!("Error while deserializing message payload: {:?}", e);
                    }
                    None => {
                        println!("Key: '{:?}', Payload: <empty>", m.key());
                    }
                }
                consumer.commit_message(&m, CommitMode::Async)?;
            }
            Err(e) => eprintln!("Kafka error: {}", e),
        }
    }
    Ok(())
}

fn main() {
    let runtime = tokio::runtime::Runtime::new().unwrap();
    runtime.block_on(run_consumer()).unwrap();
}

dependencies

rdkafka = "0.36.2"

tokio = { version = "1.36.0", features = ["full"] }

futures = "0.3.30"

target.x86_64-unknown-linux-musl

linker = "x86_64-linux-musl-gcc"

相关推荐
Dxy12393102166 小时前
Python为什么要使用可迭代对象
开发语言·python
无心水7 小时前
【分布式利器:Kafka】1、Kafka 入门:Broker、Topic、分区 3 张图讲透(附实操命令)
分布式·kafka·topic·isr·broker·分区·生产者消费者模式java实现
任子菲阳7 小时前
学Java第四十五天——斗地主小游戏创作
java·开发语言·windows
缪懿7 小时前
JavaEE:多线程基础,多线程的创建和用法
java·开发语言·学习·java-ee
Boop_wu8 小时前
[Java EE] 多线程 -- 初阶(2)
java·开发语言·jvm
IT_Beijing_BIT8 小时前
Rust入门
开发语言·后端·rust
青山的青衫8 小时前
【Java基础07】链表
java·开发语言·链表
麦麦鸡腿堡8 小时前
Java事件处理机制
java·开发语言·python
西岭千秋雪_8 小时前
Kafka安装和使用
java·分布式·kafka·java-zookeeper
5***79009 小时前
Swift进阶
开发语言·ios·swift