记一个ConcurrentHashMap使用不当导致的并发事故

写在文章开头

近期某些原因,需要对一个上古老项目进行重构,在笔者梳理项目细节时发现,该项目在并发场景下使用ConcurrentHashMap出现唯一键重复插入到ConcurrentHashMap的情况,所以笔者就以这篇文章总结下这个比较细节的错误。

你好,我叫sharkchili,目前还是在一线奋斗的Java开发,经历过很多有意思的项目,也写过很多有意思的文章,是CSDN Java领域的博客专家,也是Java Guide的维护者之一,非常欢迎你关注我的公众号:写代码的SharkChili,这里面会有笔者精心挑选的并发、JVM、MySQL数据库专栏,也有笔者日常分享的硬核技术小文。

功能简介

这个功能主要是基于quartz的任务调度,主线程开始执行时,会从task表中读取状态是未开始(0)执行中(1)的任务,读取到任务之后,先将任务状态存入ConcurrentHashMap中,用key记录Task信息,value为true(因为仅仅用到ConcurrentHashMapkeyTask保证任务去重作用,所以value可随意设置),再封装成一个定时执行的job提交到quartz中。

此后,定时执行的Job就会根据任务的定时间隔不断根据这些任务的idsend_data表查询这些任务要发送的数据。

当发送的数据达到task的总量时,这个任务的信息就会先从ConcurrentHashMap中删除,同时也会根据任务的id将定时任务的jobquartzdrop掉。

这里我们列举出为task表封装的类,可以看到顶层设计仅仅涉及任务id和任务名称,而任务具体调度详情记录到其成员变量TaskInfo 中:

ruby 复制代码
@Data
public class Task {
    /**
     * 任务号
     */
    private Integer id;

    /**
     * 任务名称
     */
    private String taskName;


    /**
     * 任务详情
     */
    private TaskInfo taskInfo;
}

TaskInfo的封装如下,它记录着任务总量和任务状态:

ruby 复制代码
@Data
public class TaskInfo {

    /**
     * 发送数据总量
     */
    private Integer totalNum;


    /**
     * 任务状态:0 未开始 1 处理中 2 已完成
     */
    private int status;
}

事故现象

笔者在调试quartz调度时发现,这个项目从数据库中查的相同的task居然能够存入ConcurrentHashMap中,正是这个原因,导致项目经常因为相同任务重复多份占用内存空间,导致时不时的OOM,这一点笔者也调研过之前的做法,即通过日期限制调度的任务数量解决(很明显这是治标不治本)

排查结果

笔者基于上述梳理的流程对线程调度细节进行调试,终于发现ConcurrentHashMap重复key的原因,还记得我们上述提到的job提交步骤吗?每次主线程都会从task表读取未开始(状态为0)和运行中(状态为1)的任务,如果这个任务未提交到quartz,则说明这个task还未执行,则先将其存入map并提交到quartz中,反之则更新这个map的中Task对象的Taskinfo信息。

问题就出在两次任务调度查询时,任务第一次被查询时任务状态是0即未开始状态,以未开始的状态的任务信息算好hashcode直接存入ConcurrentHashMap中,再将数据库中对应任务更新为运行中(status为1),随后任务提交就被提交至quartz中。

此后,主线程仍在轮询查询未开始和运行中的任务信息,问题就出在这里,因为第一次存入ConcurrentHashMap时存入的task状态为0。而第二次查询到这个task信息时,因为它已经被quartz调度,所以我们无需重复提交,只需将task再次存入map中即可,正是第一次提交task时更新status这个操作使得hashcode计算结果不同,造成同一个Task存入ConcurrentHashMap两次。

我们这里就给出一段代码示例模拟这种情况,笔者首先创建一个task对象,并设置其内部成员taskinfo状态为0(未开始),然后将其存入map中。 随后我们再用另外两个线程模拟后续主线程读取到这个任务的情况,此时这个任务已经在第一次提交之后被改为运行中了。我们再次将其存入map中:

ini 复制代码
public static void main(String[] args) throws InterruptedException {
        ConcurrentHashMap<Task, Boolean> map = new ConcurrentHashMap<>();
        CountDownLatch countDownLatch = new CountDownLatch(2);

        //创建一个任务对象
        Task task = new Task();
        task.setId(1);
        task.setTaskName("任务1");
        //设置任务状态为0,模拟第一次从数据库查询出来的状态,为未开始
        TaskInfo taskInfo = new TaskInfo();
        taskInfo.setTotalNum(1000);
        taskInfo.setStatus(0);
        task.setTaskInfo(taskInfo);

        map.put(task, true);
        
        //模拟读取到未开始的任务时,将任务状态设置为1(运行中) 存入数据库中
        log.info("将task 1 更新为运行中存入数据库.....");
        
        

        //模拟主线程后续的调度中读取到task 1 任务状态为运行中
        for (int i = 0; i < 2; i++) {
            new Thread(() -> {
                TaskInfo info = new TaskInfo();
                info.setTotalNum(1000);
                info.setStatus(1);
                task.setTaskInfo(info);
                
                //将task 1再次存入map中
                
                map.put(task, true);
                
                countDownLatch.countDown();
            }, "t" + i).start();
        }

        countDownLatch.await();

        log.info("map size:{}", map.size());
    }

毫无意外,同一个task居然都能够存入ConcurrentHashMap中:

对应的输出结果也是2:

arduino 复制代码
22:59:02.241 [main] INFO com.sharkChili.webTemplate.test.Test - map size:2

解决方案

很明显出现这个问题的原因就是因为调度更新任务信息时修改了对象成员变量从而影响了hashcode计算结果,进而导致并发操作变得无效,所以我们必须保证在符合业务需求的情况下确保相同任务的hashcode计算结果一致,经过笔者再三确认明确所有task的id是唯一的,所以直接重写hashCodeequals方法,让Task对象的计算和比对都通过taskId进行,从原头避免的任务重复插入的问题:

kotlin 复制代码
@Data
public class Task {

 //......略
 
 @Override
    public boolean equals(Object o) {
        if (this == o) return true;
        if (o == null || getClass() != o.getClass()) return false;
        Task task = (Task) o;
        return Objects.equals(id, task.id);
    }

    @Override
    public int hashCode() {
        return Objects.hash(id);
    }
}

小结

文章写的比较连贯,但是排查过程是比较艰辛的,针对这个问题,笔者花费大半天经历了以下几个步骤:

  1. 流程梳理
  2. 线程整理
  3. 数据流规整
  4. 结合源码猜测定位
  5. 尝试问题复现
  6. 研讨业务规则
  7. 明确修复方案

总的来说,对于这类涉及并发操作的重构,建议梳理清晰的数据流向并结合源码工作流程加以推断分析,最终明确问题风险点直接进行逻辑修复并及时提测。

我是sharkchiliCSDN Java 领域博客专家开源项目---JavaGuide contributor ,我想写一些有意思的东西,希望对你有帮助,如果你想实时收到我写的硬核的文章也欢迎你关注我的公众号: 写代码的SharkChili ,同时我的公众号也有我精心整理的并发编程JVMMySQL数据库个人专栏导航。

本文使用 markdown.com.cn 排版

相关推荐
Iced_Sheep35 分钟前
干掉 if else 之策略模式
后端·设计模式
XINGTECODE1 小时前
海盗王集成网关和商城服务端功能golang版
开发语言·后端·golang
程序猿进阶1 小时前
堆外内存泄露排查经历
java·jvm·后端·面试·性能优化·oom·内存泄露
FIN技术铺1 小时前
Spring Boot框架Starter组件整理
java·spring boot·后端
凡人的AI工具箱1 小时前
15分钟学 Go 第 60 天 :综合项目展示 - 构建微服务电商平台(完整示例25000字)
开发语言·后端·微服务·架构·golang
先天牛马圣体2 小时前
如何提升大型AI模型的智能水平
后端
java亮小白19972 小时前
Spring循环依赖如何解决的?
java·后端·spring
2301_811274312 小时前
大数据基于Spring Boot的化妆品推荐系统的设计与实现
大数据·spring boot·后端
草莓base3 小时前
【手写一个spring】spring源码的简单实现--容器启动
java·后端·spring
Ljw...3 小时前
表的增删改查(MySQL)
数据库·后端·mysql·表的增删查改