Java开发中对List<Map<String, Object>>集合去重并按大小拆分子列表

Java开发中对List< Map< String, Object > >集合去重并按大小拆分子列表

一、使用场景

在处理大量List<Map<String, Object>>集合的数据时,为确保数据的唯一性,需要先根据Map的某个唯一标识进行去重,然后将去重后的数据切分成较小的子列表进行分组处理。

二、实现步骤

  1. 去重:通过将列表中的数据转换为Map,利用Map的键唯一性,去除重复的元素。同时,通过保留第一个出现的元素,可以确保数据的顺序。
  2. 切分:将去重后的列表按照指定大小进行切分,方便进行批量处理或分布式处理。

三、相关知识

  1. Java 8 Stream API:提供了一种函数式编程风格的处理集合数据的方式,可以进行过滤、映射、排序、聚合等操作,大大提高了代码的可读性和简洁性。

  2. Collectors工具类 :提供了各种收集器,用于对 Stream 中的元素进行收集和汇总操作,如toMap、toList等。

  3. hutool 工具类 :使用工具类中的ListUtil.split(list, size)方法,将列表切分为指定大小的子列表。

四、代码示例

java 复制代码
public static void main(String[] args) {
    List<Map<String, Object>> list = new ArrayList<>();
    list.add(Map.of("id", 1, "date", "2024-01-01"));
    list.add(Map.of("id", 2, "date", "2024-01-02"));
    list.add(Map.of("id", 3, "date", "2024-01-03"));
    list.add(Map.of("id", 3, "date", "2024-01-04"));
    list.add(Map.of("id", 4, "date", "2024-01-05"));
    list.add(Map.of("id", 3, "date", "2024-01-06"));
    list.add(Map.of("id", 5, "date", "2024-01-07"));
    List<List<Map<String, Object>>> split = getLists(list);
    System.out.println(split);
}

private static List<List<Map<String, Object>>> getLists(List<Map<String, Object>> list) {
    // 去重
    List<Map<String, Object>> resultList = new ArrayList<>(list.stream()
           .collect(Collectors.toMap(
                    map -> map.get("id"), // key 为 id
                    map -> map, // value 为整个 Map
                    (existing, replacement) -> existing, // 如果有重复的 id,保留第一个出现的
                    LinkedHashMap::new // 保持顺序
            )).values());
    // 切分为 100 条一组
    return ListUtil.split(resultList, 100);
}
相关推荐
码云社区2 小时前
Java家政服务系统源码:人员技能、服务范围与多商家业务落地
java·开发语言·家政服务·家政小程序·家政系统
摇滚侠3 小时前
《On Java 中文版 基础卷》阅读笔记 接口 18
java·笔记·python
CoderYanger4 小时前
Java EE 进阶:9.MyBatis 操作数据库(进阶)(第八弹):MyBatis Generator
java·数据库·spring boot·spring·java-ee·tomcat·mybatis
jaysee-sjc6 小时前
【黑马点评】Day02:优惠券秒杀与分布式锁
java·分布式·nginx·spring·node.js·tomcat·maven
秋天的怀念_David7 小时前
算法一千零一夜 · 第三十五夜 · 恢复风暴
java·程序人生·算法
考虑考虑7 小时前
JDK27中的加密对象的 PEM 编码
java·后端·java ee
行者-全栈开发8 小时前
SpringBoot + GraalVM 原生编译实战:启动时间从8秒到0.5秒的极致优化
java·spring boot·后端
CoderYanger8 小时前
Java EE 进阶:10. MyBatis-Plus使用(第一弹)
java·spring boot·后端·sql·spring·java-ee·mybatis
小灰灰搞电子10 小时前
C++ initializer_list 详解
c++·list
大胖爱学习_MJ10 小时前
超越向量检索:用 Spring Boot + Neo4j 手搓 GraphRAG 知识图谱记忆
java·后端·python