kafka复习:(17)seekToBeginning的用法

从分区的开始进行消费,因为kafka会定期清理历史数据,所以分区开始的位移不一定为0。seekToBeginning只是从目前保留的数据中最小的offset进行消费

package com.cisdi.dsp.modules.metaAnalysis.rest.kafka2023;

import org.apache.kafka.clients.consumer.*;
import org.apache.kafka.clients.producer.ProducerConfig;
import org.apache.kafka.common.PartitionInfo;
import org.apache.kafka.common.TopicPartition;
import org.apache.kafka.common.serialization.StringDeserializer;
import org.apache.kafka.common.serialization.StringSerializer;

import java.time.Duration;
import java.time.temporal.TemporalUnit;
import java.util.*;
import java.util.concurrent.TimeUnit;
/*
从分区开头进行消费; seekToBeginning)
 */

public class KafkaTest14 {

    private static Properties getProperties(){
        Properties properties=new Properties();

        properties.setProperty(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class.getName());
        properties.setProperty(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class.getName());
        properties.setProperty(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG,"xx.xx.xx.xx:9092");
        properties.setProperty(ConsumerConfig.GROUP_ID_CONFIG,"testGroup12");
        //properties.setProperty(ConsumerConfig.ENABLE_AUTO_COMMIT_CONFIG,"false");
        return properties;
    }
    public static void main(String[] args) {

        KafkaConsumer<String,String> myConsumer=new KafkaConsumer<String, String>(getProperties());
        myConsumer.subscribe(Arrays.asList("student"));
        Set<TopicPartition> topicPartitionSet = new HashSet<>();
        while(topicPartitionSet.size() == 0){
            ConsumerRecords<String,String> consumerRecords=myConsumer.poll(Duration.ofMillis(5000));
            topicPartitionSet = myConsumer.assignment();
        }

        myConsumer.seekToBeginning(topicPartitionSet);

        while(true){
            ConsumerRecords<String, String> consumerRecords = myConsumer.poll(Duration.ofMillis(5000));
            for(ConsumerRecord record: consumerRecords){
                System.out.println(record.value());
                System.out.println(record.offset());
            }

        }

    }
}
相关推荐
自传丶4 小时前
【开源项目】分布式文本多语言翻译存储平台
分布式
飞火流星020279 小时前
SkyWalking集成Kafka实现日志异步采集经验总结
kafka·skywalking·skywalking日志采集·skywalking异步采集·skywalking配置·kafka数据压缩算法·kafka客户端工具
Dolphin_Home11 小时前
搭建 Hadoop 3.3.6 伪分布式
大数据·hadoop·分布式
姜来可期13 小时前
【分布式数据一致性算法】Gossip协议详解
分布式
begei13 小时前
理解vllm分布式推理服务中的多节点Multi-Node部署方式
分布式
南宫文凯13 小时前
Hadoop-HA(高可用)机制
大数据·hadoop·分布式·hadoop-ha
天天向上杰15 小时前
简识MQ之Kafka、ActiveMQ、RabbitMQ、RocketMQ传递机制
kafka·rabbitmq·rocketmq·activemq
一个假的前端男15 小时前
RabbitMQ 消息队列
分布式·rabbitmq
liruiqiang0516 小时前
DDD - 整洁架构
分布式·微服务·架构
刀客12316 小时前
kafka基本知识
分布式·kafka