大数据量模糊查询优化(流去重,流分批,建树操作)

大数据量模糊查询优化(流去重,流分批,建树操作)


前言

有时候会进行大数据量查询后的建树操作,如果直接使用sql语句会大大延缓业务效率,因此需要优化,本文章介绍了使用java8流操作以及hutool树工具栏的建树操作。


一、java8 流是什么

流是支持各种方法的对象序列(一系列对象,列入:LIst对象)

二、本次优化涉及操作

1.流去重

代码如下(示例):

java 复制代码
(操作对象).distinct().collect(Collectors.toList());

2.流分批

代码如下(示例):

java 复制代码
		//一批500条
		int batchSize = 500;
		//赋值
		List<String> finalSysDistrictParentCodeStringList = sysDistrictParentCodeStringList;
		//对finalSysDistrictParentCodeStringList进行分批处理
		List<List<String>> batches = IntStream.range(0, (finalSysDistrictParentCodeStringList.size() + batchSize - 1) / batchSize)
				.mapToObj(i -> finalSysDistrictParentCodeStringList.subList(i * batchSize, Math.min(finalSysDistrictParentCodeStringList.size(), (i + 1) * batchSize)))
				.collect(Collectors.toList());

3.hutool树工具类建树

代码如下(示例):

java 复制代码
		TreeNodeConfig treeNodeConfig = new TreeNodeConfig();
		//设置id字段
		treeNodeConfig.setIdKey("code");
		//设置父级id字段
		treeNodeConfig.setParentIdKey("parentCode");
		List<Tree<String>> trees = TreeUtil.build(result, "0", treeNodeConfig, ((object, treeNode) -> {
			//对树节点进行id赋值
			treeNode.setId(object.getCode());//id
			//对树节点进行父级id赋值
			treeNode.setParentId(object.getParentCode());//父id
			//对树节点进行名称赋值
			treeNode.putExtra("name", object.getName());
			//对树节点进行层级赋值
			treeNode.putExtra("level", object.getLevels());
		}));
		log.info("建树后:{}",trees.size());

4.全部代码

代码如下(示例):

java 复制代码
		//实体类


import lombok.Data;
import lombok.EqualsAndHashCode;
import org.apache.commons.lang.StringUtils;
import org.apache.commons.lang.builder.ToStringBuilder;
import org.apache.commons.lang.builder.ToStringStyle;

import java.util.Map;
import java.util.Set;

/**
 * 全国区域Demo
 */
@Data
@ApiModel(value = "全国区域")
public class SysDistrictDemo extends BasePageQuery {

	/**
	 * 编码
	 */
	private String code;
	/**
	 * 名称
	 */
	private String name;
	/**
	 * 父级编号
	 */
	private String parentCode;
	/**
	 * 层级
	 */
	private Integer levels;

}
java 复制代码
//整体函数
	public R getTreeByLikeInfoDemo(SysDistrictDemo sysDistrictDemo) {
		QueryWrapper<SysDistrict> wrapper = new QueryWrapper<>();
		wrapper.like("name",sysDistrictDemo.getName());
		List<String> sysDistrictParentCodeStringList = "根据条件模糊查询";
		log.info("去重前:{}",sysDistrictParentCodeStringList.size());
		//至此 取得所有数据 去重
		List<SysDistrictTree> result = new ArrayList<>();
		sysDistrictParentCodeStringList = sysDistrictParentCodeStringList.stream().distinct().collect(Collectors.toList());

		log.info("去重后:{}",sysDistrictParentCodeStringList.size());
		int batchSize = 500;
		List<String> finalSysDistrictParentCodeStringList = sysDistrictParentCodeStringList;

		List<List<String>> batches = IntStream.range(0, (finalSysDistrictParentCodeStringList.size() + batchSize - 1) / batchSize)
				.mapToObj(i -> finalSysDistrictParentCodeStringList.subList(i * batchSize, Math.min(finalSysDistrictParentCodeStringList.size(), (i + 1) * batchSize)))
				.collect(Collectors.toList());
		batches.forEach(codes->{
			result = "使用sql中in的查询操作,例如:select a.id from a in #{codes}"
		});
		log.info("取值后:{}",result.size());
		TreeNodeConfig treeNodeConfig = new TreeNodeConfig();
		//设置id字段
		treeNodeConfig.setIdKey("code");
		//设置父级id字段
		treeNodeConfig.setParentIdKey("parentCode");
		List<Tree<String>> trees = TreeUtil.build(result, "0", treeNodeConfig, ((object, treeNode) -> {
			//对树节点进行id赋值
			treeNode.setId(object.getCode());//id
			//对树节点进行父级id赋值
			treeNode.setParentId(object.getParentCode());//父id
			//对树节点进行名称赋值
			treeNode.putExtra("name", object.getName());
			//对树节点进行层级赋值
			treeNode.putExtra("level", object.getLevels());
		}));
		log.info("建树后:{}",trees.size());
		return R.ok(trees);
	}

总结

自此完成了优化,本人是50s优化至7s,欢迎讨论,勿喷,怕怕

相关推荐
她的男孩5 分钟前
分片上传的大文件人人可下载:文件模块 isPrivate 在合并时被抹成 false,另有 4 个静默坑
java·后端·架构
lie..6 分钟前
30天从零开始学AI应用开发(Day 19):项目二完结:RAG 知识库问答系统,把自己攒的资料变成私人顾问
开发语言·人工智能·python
SWAGGY..10 分钟前
【C++进阶】:(7)红黑树的原理与 C++ 实现:结构设计、插入调整及性质验证
android·java·开发语言·c++·算法
(Charon)19 分钟前
【C++面试】堆内存与栈内存:string、vector和对象到底存在哪里
开发语言·c++·面试
Wang's Blog19 分钟前
Java框架 SpringCloud 快速入门: Eureka 服务发现与服务名调用改造
java·spring cloud·eureka
夕除23 分钟前
redis--OpenResty
java·redis
Wang's Blog27 分钟前
Java框架 SpringCloud 快速入门: Eureka 注册中心原理分析
java·spring cloud·eureka
谢亮_vipxieliang28 分钟前
Go defer、panic与recover核心知识点
开发语言·后端·golang
她说彩礼65万31 分钟前
C语言 assert
java·linux·c语言
vx-程序开发33 分钟前
【计算机毕设】52744基于微信小程序的民宿智能预订系统
java·spring boot·毕业设计·源码·课程设计·毕设·大作业