jedis+redis pipeline诡异的链接损坏、数据读取异常问题解决

文章目录

问题现象

栈溢出(不断的重连)

shell 复制代码
		at redis.clients.jedis.Connection.sendCommand(Connection.java:163)
        at redis.clients.jedis.Connection.sendCommand(Connection.java:154)
        at redis.clients.jedis.BinaryClient.auth(BinaryClient.java:815)
        at redis.clients.jedis.BinaryClient.connect(BinaryClient.java:145)
        at redis.clients.jedis.Connection.sendCommand(Connection.java:163)
        at redis.clients.jedis.Connection.sendCommand(Connection.java:154)
        at redis.clients.jedis.BinaryClient.auth(BinaryClient.java:815)
        at redis.clients.jedis.BinaryClient.connect(BinaryClient.java:145)

读取超时

未知响应

尝试读取损坏的链接

读取到的数据和自己要读的无关,导致空指针、类型转换错误,数据读取错乱



问题写法

对Redis操作封装了一个Redis类

同事对pipeline加了这个方法

使用的时候

java 复制代码
   public Map<String, AnswerModel> batchGetAnswersPipeline(List<String> answerIdList) {
        Map<String, AnswerModel> resultMap = new HashMap<>();
        try (Pipeline pipelined = redis.pipelined()) {
            List<Response<Map<String, String>>> responses = new ArrayList<>();
            for (String answerId : answerIdList) {
                String key = String.format(MOMENT_ANSWER_INFO, answerId);
                responses.add(pipelined.hgetAll(key));
            }
            pipelined.sync();
            for (Response<Map<String, String>> response : responses) {
                Map<String, String> map = response.get();
                AnswerModel answers = BeanUtil.mapToBean(map, AnswerModel.class);
                if (answers != null){
                    resultMap.put(answers.getAnswerId(), answers);
                }
            }
        } catch (Exception e) {
            log.error("执行batchGetAnswersPipeline发生异常, redis pipeline error", e);
            throw new CatVillageException();
        }
        return resultMap;
    }

问题分析

在redis这个工具类中调pipelined时获取一个Pinelined对象,而获取这个方法里用了try with ,with了一个jedis链接,当try结束时链接会被归还jedispool连接池。而返回的这个pipeline仍然在用这个链接,当其他线程去拿链接的时候可能拿到的正好是这个链接,导致多个线程共用一个链接,一个线程在执行pipeline多条命令,另一个线程也在用这个链接。而jedis底层执行命令的时候是使用的OutputStream流式去执行命令,使用二进制流读取结果。当出现这种线程不安全问题的时候,读取写入就会有问题。

修复

删除Redis工具类中的pipelined方法,使用getJedis方法获取链接对象,再获取管道Pineline对象,自行close管道,最后执行完释放管道,链接。

java 复制代码
public Map<String, QuestionModel> batchGetQuestionPipeline(List<String> questionIdList) {
        if (CollectionUtils.isEmpty(questionIdList)){
            return new HashMap<>();
        }
        Map<String, QuestionModel> resultMap = new HashMap<>();
        try (Jedis jedis = redis.getJedis()) {
            Pipeline pipelined = jedis.pipelined();
            List<Response<Map<String, String>>> responses = new ArrayList<>();

            for (String questionId : questionIdList) {
                String key = String.format(MOMENT_QUESTION_INFO, questionId);
                responses.add(pipelined.hgetAll(key));
            }

            pipelined.sync();

            for (Response<Map<String, String>> response : responses) {
                Map<String, String> map = response.get();
                QuestionModel question = convertFromMap(map);
                if (question != null) {
                    resultMap.put(question.getPostId(), question);
                }
            }
            pipelined.close();
        } catch (Exception e) {
            log.error("执行batchGetQuestionPipeline发生异常, redis pipeline error", e);
            throw new CatVillageException();
        }

        return resultMap;
    }

注意点

若jedis在3.7版本以下的版本也会有管道二进制读取异常问题,请升级到3.7.0+版本

相关推荐
vivo互联网技术1 小时前
号码生成系统的创新实践:游戏周周乐幸运码设计
redis·后端·架构
都叫我大帅哥2 小时前
Redis中zset内存变形记
java·redis
大只鹅2 小时前
两级缓存 Caffeine + Redis 架构:原理、实现与实践
redis·缓存·架构
都叫我大帅哥2 小时前
Redis的ZSet:从“青铜”到“王者”的排序神器
java·redis
小小霸王龙!2 小时前
互联网大厂Java面试实录:Spring Boot与微服务在电商场景中的应用
java·spring boot·redis·微服务·电商
都叫我大帅哥2 小时前
Redis BitMap 深度解剖:比特世界的精密引擎
redis
爱上语文4 小时前
Redis基础(4):Set类型和SortedSet类型
java·数据库·redis·后端
软件2057 小时前
【redis使用场景——缓存——数据淘汰策略】
数据库·redis·缓存
加勒比海涛8 小时前
Spring Cloud Gateway 实战:从网关搭建到过滤器与跨域解决方案
数据库·redis·缓存
大只鹅10 小时前
分布式部署下如何做接口防抖---使用分布式锁
redis·分布式