MySql几十万条数据,同时新增或者修改

项目场景:

十万条甚至更多的数据新增或者修改


问题描述

现在有十万条数据甚至更多数据,在这些数据中,有部分数据存在数据库中,有部分数据确是新数据,存在的数据需要更新,不存在的数据需要新增


原因分析:

几十万的数据有新增,有修改,我们肯定不能去每条都要去数据库查询验证是否存在,这样数据库也扛不住


解决方案:

提示:有两种解决方案简单记录下,在mybatis中使用的场景

1、第一种解决方式,使用on duplicate key update,主键重复去修改,不重复就新增这里的order_id就是主键

java 复制代码
<insert id="addOrUpdateKryOrderMst" parameterType="list">
        insert into ${schema}.me_kry_order_mst
        (`order_id`,
         `trade_no`,
         `trade_type`,
         `trade_status`,
         `order_time`,
         `check_out_time`,
         `source`,
         `source_name`,
         `received_amount`,
         `cust_real_pay`,
         `trade_amount`,
         `privilege_amount`)
        values
        <foreach collection="kryOrderMstParam" item="item" separator=",">
            (#{item.orderId}, #{item.tradeNo}, #{item.tradeType}, #{item.tradeStatus}, #{item.orderTime}, #{item.checkOutTime}, #{item.source}, #{item.sourceName}, #{item.receivedAmount}, #{item.custRealPay}, #{item.tradeAmount}, #{item.privilegeAmount})
        </foreach>
        on duplicate key update
                             trade_no =
                         values (trade_no), trade_type =
                         values (trade_type), trade_status =
                         values (trade_status), order_time =
                         values (order_time), check_out_time =
                         values (check_out_time), `source` =
                         values (`source`), source_name =
                         values (source_name), received_amount =
                         values (received_amount), cust_real_pay =
                         values (cust_real_pay), trade_amount =
                         values (trade_amount), privilege_amount =
                         values (trade_amount)
    </insert>

2、第二种解决方式,使用replace into,若是主键存在就删除重新新增一条

java 复制代码
    <insert id="addOrUpdateKryOrderMst" parameterType="list">
        replace into ${schema}.me_kry_order_mst
        (`order_id`,
         `trade_no`,
         `trade_type`,
         `trade_status`,
         `order_time`,
         `check_out_time`,
         `source`,
         `source_name`,
         `received_amount`,
         `cust_real_pay`,
         `trade_amount`,
         `privilege_amount`)
        values
        <foreach collection="kryOrderMstParam" item="item" separator=",">
            (#{item.orderId}, #{item.tradeNo}, #{item.tradeType}, #{item.tradeStatus}, #{item.orderTime}, #{item.checkOutTime}, #{item.source}, #{item.sourceName}, #{item.receivedAmount}, #{item.custRealPay}, #{item.tradeAmount}, #{item.privilegeAmount})
        </foreach>
    </insert>

写的不好,请各位看官多多担待,勿喷谢谢,有需要补充请留言!

相关推荐
倔强的石头_8 小时前
《Kingbase护城河》——猎捕慢查询:执行计划的微观解析与索引调优实战
数据库
SelectDB10 小时前
Apache Doris Python UDF:让 SQL 直接调用 Python 生态,支撑 Agent 时代复杂业务逻辑
大数据·数据库·python
Flittly11 小时前
【AgentScope Java新手村系列】(16)从RAG到多路检索
java·spring boot·spring
小兔崽子去哪了11 小时前
Java 生成二维码解决方案
java·后端
人活一口气16 小时前
从JVM调优到MCP协议:Java全栈技术体系深度总结与企业级架构实践
java·spring boot
NE_STOP18 小时前
Vibe Coding -- 完整项目案例实操
java
荣码18 小时前
GraphRAG:普通RAG只能回答"点"的问题,我踩了4个坑才搞懂
java·python
SimonKing18 小时前
Google第三方授权登录
java·后端·程序员
明月光81818 小时前
从一行 @Builder 说起:重新拾起 Java 的 Lombok、注解与 Builder 模式
java
考虑考虑1 天前
Mybatis实现批量插入
java·后端·mybatis