业务中对批量插入数据的一些场景思考

批量插入或者更新某些数据

场景描述:当我们遇到需要批量插入或者更新的数据时候 解决方案:

  1. 建立复合唯一索引,gorm是使用关键字uniqueIndex,这一步是为了使用数据库的ON DUPLICATE KEY UPDATE功能,有的数据库不支持这类功能

ON DUPLICATE KEY UPDATE 是 MySQL 中的一个特性,用于在插入数据时处理主键或唯一索引冲突。当你尝试插入一行数据,而这行数据的主键或唯一索引与已有的数据冲突时,MySQL 会返回一个错误。但是,如果你使用了 ON DUPLICATE KEY UPDATE 子句,MySQL 就会更新已有的数据,而不是返回一个错误。

go 复制代码
type WordItem struct {
    gorm.Model
    RecordID  uint   `gorm:"primaryKey;uniqueIndex:idx_record_word"` // 外键,关联到Record的ID
    Word      string `gorm:"type:varchar(255);uniqueIndex:idx_record_word"`
    Status    int
    Timestamp int64
}
  1. 开启事务,然后新建一个切片,类型为要批量保存的数据类型,然后新建worditem对象

    go 复制代码
    	// 遍历 dataList 中的 RecordList
    	for _, recordList := range dataList.RecordList {
    		// 对于每个 recordList,创建一个新的 WordItem 对象
    		wordItem := scanpen.WordItem{
    			RecordID:  record.ID,
    			Word:      recordList.Word,
    			Status:    recordList.Status,
    			Timestamp: recordList.Timestamp,
    		}
    		// 使用原生 SQL 语句插入或更新 WordItem
    		sql := `INSERT INTO scanpan_record_item (RecordID, Word, Status, Timestamp, CreatedAt, UpdatedAt) VALUES (?, ?, ?, ?, NOW(), NOW())
                        ON DUPLICATE KEY UPDATE Status = VALUES(Status), Timestamp = VALUES(Timestamp), UpdatedAt = NOW()`
    		if err := tx.Exec(sql, wordItem.RecordID, wordItem.Word, wordItem.Status, wordItem.Timestamp).Error; err != nil {
    			tx.Rollback()
    			return err
    		}
    		// 将 WordItem 添加到 Record 的 WordItems 列表中
    		record.WordItems = append(record.WordItems, wordItem)
    	}
    	// 保存 Record 到数据库
    	if err := tx.Save(&record).Error; err != nil {
    		tx.Rollback()
    		return err
    	}

这段代码的主要目的是将 `dataList.RecordList` 中的每个 recordList 项作为一个新的 WordItem 对象插入到 scanpan_record_item 数据库表中。如果 scanpan_record_item 表中已经存在相同 RecordIDWord 的项,那么这个项的 StatusTimestampUpdatedAt 字段会被更新。

以下是这段代码的详细解释:

  1. for _, recordList := range dataList.RecordList { ... }:这是一个 for-range 循环,用于遍历 dataList.RecordList 列表中的每个元素。每次循环,recordList 都会被设置为列表中的一个元素。

  2. wordItem := scanpen.WordItem{ ... }:这行代码创建了一个新的 WordItem 对象,其字段值从 recordList 中获取。

  3. sql := INSERT INTO scanpan_record_item ...``:这行代码定义了一个 SQL 语句,用于插入或更新 WordItem。这个 SQL 语句使用了 MySQL 的 ON DUPLICATE KEY UPDATE 特性,如果尝试插入的 RecordIDWord 与已有的数据冲突,这个 SQL 语句会更新这个 RecordIDWord 对应的 StatusTimestamp

  4. if err := tx.Exec(sql, ...).Error; err != nil { ... }:这行代码执行了上面定义的 SQL 语句。如果 SQL 语句执行失败,这行代码会回滚事务并返回错误。

  5. record.WordItems = append(record.WordItems, wordItem):这行代码将新创建的 WordItem 添加到 RecordWordItems 列表中。

这段代码的写法主要是为了处理 RecordList 中可能存在的重复项。通过使用 ON DUPLICATE KEY UPDATE,这段代码可以在插入新的 WordItem 时自动更新已有的 WordItem,而不需要先查询数据库来检查 WordItem 是否已存在。这样可以减少数据库查询,提高代码的效率。

相关推荐
喵了个Code10 分钟前
Spring Boot 3 + Spring Security + OAuth2 + Gateway企业级认证授权平台实现
后端
开心猴爷16 分钟前
除了 Perfdog,如何在 Windows 环境中完成 iOS App 的性能测试工作
后端
桦说编程1 小时前
简单方法实现子任务耗时统计
java·后端·监控
盖世英雄酱581361 小时前
物品超领取损失1万事故复盘(一)
java·后端
凌览1 小时前
别再死磕 Nginx!http-proxy-middleware 低配置起飞
前端·后端
拾玖不会code1 小时前
简单分表场景下的业务发散思考:分表如何保证丝滑?
后端
CryptoRzz1 小时前
印度尼西亚(IDX)股票数据对接开发
java·后端·websocket·web3·区块链
咕白m6252 小时前
通过 C# 快速生成二维码 (QR code)
后端·.net
踏浪无痕2 小时前
架构师如何学习 AI:三个月掌握核心能力的务实路径
人工智能·后端·程序员
小毅&Nora2 小时前
【后端】【SpringBoot】① 源码解析:从启动到优雅关闭
spring boot·后端·优雅关闭