Java基础|多线程:多线程分页拉取

前言:

通常我们都会遇到分页拉取的需求,比如与第三方系统同步数据,定时拉取全量数据做缓存,下面我们简单介绍下多线程分页写法

需求:

全量同步第三方系统数据,并在全部数据同步完后,统一做缓存数据处理

前置条件:

1.使用springBoot的ThreadPoolTaskExecutor 多线程封装数据

2.springBoot2.x、jdk8

完成步骤:

1.计算对应页数,把每页需求

2.循环多线程拉取

3.多线程内的子线程都完成了之后,再统一做缓存

具体代码:

1.多线程+CountDownLatch

java 复制代码
    public void doRepetition() {
        log.info("处理重复组合编码 start");
        doneService.initRingCode();
        List<DoneRingPO> doneRingList = doneRingMapper.queryRepetitionRing();
        if (CollectionUtils.isEmpty(doneRingList)) {
            log.info("处理重复组合编码为空,处理重复组合编码 end");
            return;
        }
        for (DoneRingPO item : doneRingList) {
            List<DoneRingPO> repetitionCodeList = doneRingMapper.queryDoneRingByCode(Collections.singletonList(String.valueOf(item.getCode())));
            for (int i = 1; i < repetitionCodeList.size(); i++) {
                repetitionCodeList.get(i).setCode(redisTemplate.opsForValue().increment(DoneCacheKey.DONE_RING_CODE_INCR.getKey()));
            }
            for (DoneRingPO ringPo : repetitionCodeList) {
                doneRingMapper.updateRingCode(ringPo);
            }
        }
        log.info("处理重复组合编码 end");
    }

2.多线程+CompletableFuture

java 复制代码
    public void testMulti(Integer totalNum) throws Exception {
        int totalPage = totalNum;
        final List<CompletableFuture<String>> futureList = new ArrayList<>();
        for (int i = 1; i <= totalPage; i++) {
            try {
                final int page =i;
                futureList.add(CompletableFuture.supplyAsync(() -> {
                    //TODO 执行耗时任务
                    log.info("耗时任务page={}",page);
                    return Integer.toString(page);
                }, taskExecutor));
            } catch (Exception e) {
                log.error("线程异常....", e);
            }
        }
        final CompletableFuture<Void> allOf = CompletableFuture.allOf(futureList.toArray(new CompletableFuture[0]));
        //线程等待完成
        allOf.get();
        //TODO 执行缓存任务
        log.info("结束");
    }
	
相关推荐
一弓虽9 分钟前
SpringBoot 学习
java·spring boot·后端·学习
南客先生13 分钟前
互联网大厂Java面试:RocketMQ、RabbitMQ与Kafka的深度解析
java·面试·kafka·rabbitmq·rocketmq·消息中间件
ai大佬16 分钟前
Java 开发玩转 MCP:从 Claude 自动化到 Spring AI Alibaba 生态整合
java·spring·自动化·api中转·apikey
光而不耀@lgy32 分钟前
C++初登门槛
linux·开发语言·网络·c++·后端
lkbhua莱克瓦2437 分钟前
用C语言实现——一个中缀表达式的计算器。支持用户输入和动画演示过程。
c语言·开发语言·数据结构·链表·学习方法·交友·计算器
Mr__Miss41 分钟前
面试踩过的坑
java·开发语言
爱喝一杯白开水42 分钟前
POI从入门到上手(一)-轻松完成Apache POI使用,完成Excel导入导出.
java·poi
啊丢_43 分钟前
C++——Lambda表达式
开发语言·c++
向哆哆1 小时前
Java 安全:如何防止 DDoS 攻击?
java·安全·ddos
啥都想学的又啥都不会的研究生1 小时前
Kubernetes in action-初相识
java·docker·微服务·容器·kubernetes·etcd·kubelet