MySql几十万条数据,同时新增或者修改

项目场景:

十万条甚至更多的数据新增或者修改


问题描述

现在有十万条数据甚至更多数据,在这些数据中,有部分数据存在数据库中,有部分数据确是新数据,存在的数据需要更新,不存在的数据需要新增


原因分析:

几十万的数据有新增,有修改,我们肯定不能去每条都要去数据库查询验证是否存在,这样数据库也扛不住


解决方案:

提示:有两种解决方案简单记录下,在mybatis中使用的场景

1、第一种解决方式,使用on duplicate key update,主键重复去修改,不重复就新增这里的order_id就是主键

java 复制代码
<insert id="addOrUpdateKryOrderMst" parameterType="list">
        insert into ${schema}.me_kry_order_mst
        (`order_id`,
         `trade_no`,
         `trade_type`,
         `trade_status`,
         `order_time`,
         `check_out_time`,
         `source`,
         `source_name`,
         `received_amount`,
         `cust_real_pay`,
         `trade_amount`,
         `privilege_amount`)
        values
        <foreach collection="kryOrderMstParam" item="item" separator=",">
            (#{item.orderId}, #{item.tradeNo}, #{item.tradeType}, #{item.tradeStatus}, #{item.orderTime}, #{item.checkOutTime}, #{item.source}, #{item.sourceName}, #{item.receivedAmount}, #{item.custRealPay}, #{item.tradeAmount}, #{item.privilegeAmount})
        </foreach>
        on duplicate key update
                             trade_no =
                         values (trade_no), trade_type =
                         values (trade_type), trade_status =
                         values (trade_status), order_time =
                         values (order_time), check_out_time =
                         values (check_out_time), `source` =
                         values (`source`), source_name =
                         values (source_name), received_amount =
                         values (received_amount), cust_real_pay =
                         values (cust_real_pay), trade_amount =
                         values (trade_amount), privilege_amount =
                         values (trade_amount)
    </insert>

2、第二种解决方式,使用replace into,若是主键存在就删除重新新增一条

java 复制代码
    <insert id="addOrUpdateKryOrderMst" parameterType="list">
        replace into ${schema}.me_kry_order_mst
        (`order_id`,
         `trade_no`,
         `trade_type`,
         `trade_status`,
         `order_time`,
         `check_out_time`,
         `source`,
         `source_name`,
         `received_amount`,
         `cust_real_pay`,
         `trade_amount`,
         `privilege_amount`)
        values
        <foreach collection="kryOrderMstParam" item="item" separator=",">
            (#{item.orderId}, #{item.tradeNo}, #{item.tradeType}, #{item.tradeStatus}, #{item.orderTime}, #{item.checkOutTime}, #{item.source}, #{item.sourceName}, #{item.receivedAmount}, #{item.custRealPay}, #{item.tradeAmount}, #{item.privilegeAmount})
        </foreach>
    </insert>

写的不好,请各位看官多多担待,勿喷谢谢,有需要补充请留言!

相关推荐
疯癫的老码农12 分钟前
【word解析】从OLE到OMML:公式格式转换的挑战与解决方案
java·spring boot·spring·word
缘来如此0937 分钟前
mysql--核心日志文件详解
数据库·mysql
电商API_1800790524740 分钟前
电商数据分析之自动获取数据的技术手段分享
大数据·数据库·数据挖掘·数据分析
MilesShi40 分钟前
RAG:解锁大语言模型新能力的关键钥匙
数据库·人工智能·语言模型
元气满满的霄霄1 小时前
Spring Boot整合缓存——Redis缓存!超详细!
java·spring boot·redis·后端·缓存·intellij-idea
gsfl3 小时前
Redis 缓存
数据库·redis·缓存
月夕·花晨4 小时前
Gateway-过滤器
java·分布式·spring·spring cloud·微服务·gateway·sentinel
hssfscv5 小时前
JAVA学习笔记——9道综合练习习题+二维数组
java·笔记·学习
初听于你7 小时前
缓存技术揭秘
java·运维·服务器·开发语言·spring·缓存
小蒜学长8 小时前
springboot多功能智能手机阅读APP设计与实现(代码+数据库+LW)
java·spring boot·后端·智能手机