对比 MyBatis 批处理 BATCH 模式与 INSERT INTO ... SELECT ... UNION ALL 进行批量插入

catoop2024-11-25 8:55

前言

在开发中，我们经常需要批量插入大量数据。不同的批量插入方法有不同的优缺点，适用于不同的场景。本文将详细对比两种常见的批量插入方法：

  • MyBatis 的批处理模式。
  • 使用 INSERT INTO ... SELECT ... UNION ALL 进行批量插入。

MyBatis 批处理模式

实现方式

MyBatis 的批处理模式通过配置 SqlSessionTemplate 或 SqlSessionFactory 的 ExecutorType 为 BATCH 来启用。以下是一个示例配置：

java 复制代码 
public SqlSessionTemplate sqlSessionTemplate(SqlSessionFactory sqlSessionFactory) {
    return new SqlSessionTemplate(sqlSessionFactory, ExecutorType.BATCH);
}

优点

  1. 易于实现 ：只需配置 ExecutorType 即可启用批处理模式。
  2. 灵活：支持多种类型的 SQL 操作，包括插入、更新和删除，常规标准 SQL 不因数据库差异而使用不同的写法。
  3. 动态 SQL：支持 MyBatis 的动态 SQL 功能，可以根据条件生成复杂的 SQL 语句。

缺点

  1. 性能限制：虽然批处理可以减少网络往返次数，提高性能，但对于非常大的数据集，性能方面会有一定的影响。
  2. 内存占用：批处理过程中需要在内存中累积大量的数据，可能导致内存溢出。
  3. 数据库支持：批处理的效果取决于数据库驱动的支持程度，某些驱动可能不完全支持批处理。

示例代码

java 复制代码 
@Autowired
private SqlSessionTemplate sqlSessionTemplate;

public void batchInsert(List<Item> items, int batchSize, int commitBatchCount) {
    try (SqlSession sqlSession = sqlSessionTemplate.getSqlSessionFactory().openSession(ExecutorType.BATCH)) {
        ItemMapper mapper = sqlSession.getMapper(ItemMapper.class);
        int batchCount = 0;
        for (int i = 0; i < items.size(); i += batchSize) {
            int end = Math.min(i + batchSize, items.size());
            for (int j = i; j < end; j++) {
                mapper.insert(items.get(j));
            }
            sqlSession.flushStatements();
            batchCount++;
            if (commitBatchCount != -1 && batchCount % commitBatchCount == 0) {
                sqlSession.commit();
                batchCount = 0;
            }
        }
        if (batchCount > 0 || commitBatchCount == -1) {
            sqlSession.commit();
        }
    } catch (Exception e) {
        // 处理异常
        e.printStackTrace();
    }
}

解释

  • batchSize ：控制每次批处理的条数，即每次调用 mapper.insert 方法的次数。
  • commitBatchCount ：控制每执行几次批处理后提交一次事务。如果 commitBatchCount 为 -1，则表示在所有数据插入完成后一次性提交事务。
  • flushStatements：每次处理完一批数据后，手动刷新批处理中的 SQL 语句，确保数据被发送到数据库。
  • commit ：根据 commitBatchCount 的值决定何时提交事务。如果 commitBatchCount 为 -1，则在所有数据插入完成后一次性提交事务。

使用 INSERT INTO ... SELECT ... UNION ALL

实现方式

使用 INSERT INTO ... SELECT ... UNION ALL 方法可以通过构建一个包含多个 UNION ALL 子句的 SQL 语句来一次性插入多条记录。以下是一个示例：

sql 复制代码 
INSERT INTO table_name (column1, column2)
SELECT 'value1', 'value2'
UNION ALL
SELECT 'value3', 'value4'
UNION ALL
SELECT 'value5', 'value6';

优点

  1. 高性能：一次性插入多条记录，减少了数据库的 I/O 操作，提高了插入速度。
  2. 内存友好：不需要在内存中累积大量数据，减少了内存占用。毕竟它只是执行了一条字符串比较长的 SQL 语句而已。

缺点

  1. 复杂性 ：生成包含大量 UNION ALL 子句的 SQL 语句可能非常复杂，容易出错。且不同类型的数据库拼接 SQL 的语法可能有差异。
  2. SQL 限制：SQL 语句长度有限制，如果插入的数据量过大，可能会超过数据库的最大 SQL 长度限制。需要注意当前数据库的最大允许长度。
  3. 错误处理：一旦插入失败，很难定位具体的错误记录，因为所有的插入操作是在一条 SQL 语句中完成的。
  4. 灵活性差：只能用于插入操作，不适用于更新或删除操作。
  5. 动态 SQL 支持差：难以根据条件动态生成 SQL 语句，只适用比较纯粹的 INSERT 语句。

示例代码

MyBatis XML 文件示例

假设我们有一个 Item 对象，包含 column1 和 column2 两个字段。

xml 复制代码 
<!-- src/main/resources/mapper/ItemMapper.xml -->
<mapper namespace="com.example.mapper.ItemMapper">

    <!-- 插入单个记录的映射 -->
    <insert id="insert" parameterType="com.example.model.Item">
        INSERT INTO table_name (column1, column2) VALUES (#{column1}, #{column2})
    </insert>

    <!-- 批量插入记录的映射 -->
    <insert id="batchInsertWithUnionAll" parameterType="java.util.List">
        INSERT INTO table_name (column1, column2)
        <foreach collection="list" item="item" separator="UNION ALL">
            SELECT #{item.column1}, #{item.column2}
        </foreach>
    </insert>

</mapper>

Java 方法示例

java 复制代码 
@Autowired
private SqlSessionTemplate sqlSessionTemplate;

public void batchInsertWithUnionAll(List<Item> items) {
    try (SqlSession sqlSession = sqlSessionTemplate.getSqlSessionFactory().openSession()) {
        ItemMapper mapper = sqlSession.getMapper(ItemMapper.class);
        mapper.batchInsertWithUnionAll(items);
        sqlSession.commit();
    } catch (Exception e) {
        // 处理异常
        e.printStackTrace();
    }
}

解释

  • <foreach> 标签 ：遍历传入的 List<Item> 列表，生成多个 SELECT 子句，每个子句对应一条记录。
  • separator="UNION ALL" ：指定每个子句之间用 UNION ALL 分隔。

性能测试

为了更好地理解这两种方法的性能差异，我们可以进行一些基准测试。以下是一个简单的测试示例：

java 复制代码 
@Autowired
private SqlSessionTemplate sqlSessionTemplate;

@Test
public void testBatchInsertPerformance() {
    int itemCount = 10000;
    List<Item> items = generateItems(itemCount);

    // 测试 MyBatis 批处理模式
    long startTime = System.currentTimeMillis();
    batchInsert(items, 1000, 10); // 每10次批处理提交一次事务
    long endTime = System.currentTimeMillis();
    System.out.println("MyBatis 批处理模式耗时: " + (endTime - startTime) + " ms");

    // 清空表数据
    clearTable();

    // 测试 INSERT INTO ... SELECT ... UNION ALL
    startTime = System.currentTimeMillis();
    batchInsertWithUnionAll(items);
    endTime = System.currentTimeMillis();
    System.out.println("INSERT INTO ... SELECT ... UNION ALL 耗时: " + (endTime - startTime) + " ms");
}

private List<Item> generateItems(int count) {
    List<Item> items = new ArrayList<>(count);
    for (int i = 0; i < count; i++) {
        items.add(new Item("value1_" + i, "value2_" + i));
    }
    return items;
}

private void clearTable() {
    sqlSessionTemplate.getSqlSessionFactory().openSession().getMapper(ItemMapper.class).truncateTable();
}

解释

  • generateItems 方法 ：生成指定数量的 Item 对象。
  • clearTable 方法：清空表中的数据，以便进行下一次测试。

总结

选择哪种批量插入方法取决于你的具体需求和应用场景：

  • MyBatis 批处理模式 ：
    • 数据量适中：适用于数据量不是特别大，但需要频繁插入、更新或删除的场景。
    • 需要灵活的 SQL 操作：需要支持多种类型的 SQL 操作，如插入、更新和删除。
    • 需要细粒度的错误处理：需要在批处理完成后检查每个操作的结果，以便发现和处理错误。
  • INSERT INTO ... SELECT ... UNION ALL ：
    • 大数据量插入：适用于需要一次性插入大量数据的场景，尤其是数据量非常大时。
    • 性能要求高：对插入性能有较高要求，需要尽可能减少数据库的 I/O 操作。
    • 简单的插入操作：只涉及插入操作，不需要支持更新或删除。

至此本文主要内容已经结束。

补充

针对单纯 INSERT 的超大数量级场景，可以结合两种方式实现高效插入。你可以先使用 INSERT INTO ... SELECT ... UNION ALL 构建批量插入的 SQL 语句，然后在适当的时候提交事务。这样既可以利用 UNION ALL 的高性能，又可以通过控制提交频率来避免事务过大导致的问题。

下面是主要代码片段，可以按需选择并使用。

xml 复制代码 
<mapper namespace="com.example.mapper.ItemMapper">
    <!-- 批量插入记录的映射 -->
    <insert id="batchInsertWithUnionAll" parameterType="java.util.List">
        INSERT INTO table_name (column1, column2)
        <foreach collection="list" item="item" separator="UNION ALL">
            SELECT #{item.column1}, #{item.column2}
        </foreach>
    </insert>
</mapper>
java 复制代码 
@Autowired
private SqlSessionTemplate sqlSessionTemplate;

public void batchInsertCombined(List<Item> items, int batchSize, int commitBatchCount) {
    try (SqlSession sqlSession = sqlSessionTemplate.getSqlSessionFactory().openSession(ExecutorType.BATCH)) {
        ItemMapper mapper = sqlSession.getMapper(ItemMapper.class);
        int batchCount = 0;
        for (int i = 0; i < items.size(); i += batchSize) {
            int end = Math.min(i + batchSize, items.size());
            List<Item> batchItems = items.subList(i, end);
            mapper.batchInsertWithUnionAll(batchItems);
            sqlSession.flushStatements();
            batchCount++;
            if (commitBatchCount != -1 && batchCount % commitBatchCount == 0) {
                sqlSession.commit();
                batchCount = 0;
            }
        }
        if (batchCount > 0 || commitBatchCount == -1) {
            sqlSession.commit();
        }
    } catch (Exception e) {
        // 处理异常
        e.printStackTrace();
    }
}

希望这篇文章对你有所帮助！如果有任何进一步的问题或需要更多细节，请随时告诉我。

相关推荐
秋恬意10 小时前
Mybatis能执行一对一、一对多的关联查询吗？都有哪些实现方式，以及它们之间的区别
java·数据库·mybatis
张铁铁是个小胖子20 小时前
MyBatis学习
java·学习·mybatis
hanbarger1 天前
mybatis框架——缓存，分页
java·spring·mybatis
乘风御浪云帆之上1 天前
数据库操作【JDBC & HIbernate & Mybatis】
数据库·mybatis·jdbc·hibernate
向阳12182 天前
mybatis 动态 SQL
数据库·sql·mybatis
新手小袁_J2 天前
JDK11下载安装和配置超详细过程
java·spring cloud·jdk·maven·mybatis·jdk11
xlsw_2 天前
java全栈day20--Web后端实战(Mybatis基础2)
java·开发语言·mybatis
cmdch20173 天前
Mybatis加密解密查询操作（sql前），where要传入加密后的字段时遇到的问题
数据库·sql·mybatis
秋恬意3 天前
什么是MyBatis
mybatis
CodeChampion3 天前
60.基于SSM的个人网站的设计与实现（项目 + 论文）
java·vue.js·mysql·spring·elementui·node.js·mybatis
热门推荐
0119个Web前端交互式3D JavaScript框架和库02ARM学习（31）编译器对overlay方式的支持03玄机平台应急响应—webshell查杀04RAG 实践- Ollama+RagFlow 部署本地知识库05【一文读懂】NTN（非地面网络）技术介绍06(欧拉)openEuler系统添加网卡文件配置流程、(欧拉)openEuler系统手动配置ipv6地址流程、(欧拉)openEuler系统网络管理说明07ZZ038 物联网应用与服务赛题第J套08组基轨迹建模 GBTM的介绍与实现（Stata 或 R）09Docker 夺命连环 15 问10VSCode插件 —— Cody AI （免费AI助手！）