业务中对批量插入数据的一些场景思考

批量插入或者更新某些数据

场景描述:当我们遇到需要批量插入或者更新的数据时候 解决方案:

  1. 建立复合唯一索引,gorm是使用关键字uniqueIndex,这一步是为了使用数据库的ON DUPLICATE KEY UPDATE功能,有的数据库不支持这类功能

ON DUPLICATE KEY UPDATE 是 MySQL 中的一个特性,用于在插入数据时处理主键或唯一索引冲突。当你尝试插入一行数据,而这行数据的主键或唯一索引与已有的数据冲突时,MySQL 会返回一个错误。但是,如果你使用了 ON DUPLICATE KEY UPDATE 子句,MySQL 就会更新已有的数据,而不是返回一个错误。

go 复制代码
type WordItem struct {
    gorm.Model
    RecordID  uint   `gorm:"primaryKey;uniqueIndex:idx_record_word"` // 外键,关联到Record的ID
    Word      string `gorm:"type:varchar(255);uniqueIndex:idx_record_word"`
    Status    int
    Timestamp int64
}
  1. 开启事务,然后新建一个切片,类型为要批量保存的数据类型,然后新建worditem对象

    go 复制代码
    	// 遍历 dataList 中的 RecordList
    	for _, recordList := range dataList.RecordList {
    		// 对于每个 recordList,创建一个新的 WordItem 对象
    		wordItem := scanpen.WordItem{
    			RecordID:  record.ID,
    			Word:      recordList.Word,
    			Status:    recordList.Status,
    			Timestamp: recordList.Timestamp,
    		}
    		// 使用原生 SQL 语句插入或更新 WordItem
    		sql := `INSERT INTO scanpan_record_item (RecordID, Word, Status, Timestamp, CreatedAt, UpdatedAt) VALUES (?, ?, ?, ?, NOW(), NOW())
                        ON DUPLICATE KEY UPDATE Status = VALUES(Status), Timestamp = VALUES(Timestamp), UpdatedAt = NOW()`
    		if err := tx.Exec(sql, wordItem.RecordID, wordItem.Word, wordItem.Status, wordItem.Timestamp).Error; err != nil {
    			tx.Rollback()
    			return err
    		}
    		// 将 WordItem 添加到 Record 的 WordItems 列表中
    		record.WordItems = append(record.WordItems, wordItem)
    	}
    	// 保存 Record 到数据库
    	if err := tx.Save(&record).Error; err != nil {
    		tx.Rollback()
    		return err
    	}

这段代码的主要目的是将 `dataList.RecordList` 中的每个 recordList 项作为一个新的 WordItem 对象插入到 scanpan_record_item 数据库表中。如果 scanpan_record_item 表中已经存在相同 RecordIDWord 的项,那么这个项的 StatusTimestampUpdatedAt 字段会被更新。

以下是这段代码的详细解释:

  1. for _, recordList := range dataList.RecordList { ... }:这是一个 for-range 循环,用于遍历 dataList.RecordList 列表中的每个元素。每次循环,recordList 都会被设置为列表中的一个元素。

  2. wordItem := scanpen.WordItem{ ... }:这行代码创建了一个新的 WordItem 对象,其字段值从 recordList 中获取。

  3. sql := INSERT INTO scanpan_record_item ...``:这行代码定义了一个 SQL 语句,用于插入或更新 WordItem。这个 SQL 语句使用了 MySQL 的 ON DUPLICATE KEY UPDATE 特性,如果尝试插入的 RecordIDWord 与已有的数据冲突,这个 SQL 语句会更新这个 RecordIDWord 对应的 StatusTimestamp

  4. if err := tx.Exec(sql, ...).Error; err != nil { ... }:这行代码执行了上面定义的 SQL 语句。如果 SQL 语句执行失败,这行代码会回滚事务并返回错误。

  5. record.WordItems = append(record.WordItems, wordItem):这行代码将新创建的 WordItem 添加到 RecordWordItems 列表中。

这段代码的写法主要是为了处理 RecordList 中可能存在的重复项。通过使用 ON DUPLICATE KEY UPDATE,这段代码可以在插入新的 WordItem 时自动更新已有的 WordItem,而不需要先查询数据库来检查 WordItem 是否已存在。这样可以减少数据库查询,提高代码的效率。

相关推荐
man20171 小时前
【2024最新】基于springboot+vue的闲一品交易平台lw+ppt
vue.js·spring boot·后端
hlsd#1 小时前
关于 SpringBoot 时间处理的总结
java·spring boot·后端
路在脚下@1 小时前
Spring Boot 的核心原理和工作机制
java·spring boot·后端
幸运小圣1 小时前
Vue3 -- 项目配置之stylelint【企业级项目配置保姆级教程3】
开发语言·后端·rust
前端SkyRain3 小时前
后端Node学习项目-用户管理-增删改查
后端·学习·node.js
提笔惊蚂蚁3 小时前
结构化(经典)软件开发方法: 需求分析阶段+设计阶段
后端·学习·需求分析
老猿讲编程3 小时前
Rust编写的贪吃蛇小游戏源代码解读
开发语言·后端·rust
黄小耶@3 小时前
python如何使用Rabbitmq
分布式·后端·python·rabbitmq
宅小海4 小时前
Scala-List列表
开发语言·后端·scala
蔚一5 小时前
Javaweb—Ajax与jQuery请求
前端·javascript·后端·ajax·jquery