MySQL转移大量数据技巧

旧方法

  • 使用mysqldump,mysqlpump这两个命令行工具,但都有缺陷

    mysqldump的速度太慢,3千万记录要10个小时
    mysqlpump无法使用指定字段名对数据导入

新方法

  • 参考:Mysql亿级数据大表单表备份

  • 使用SQL语法select * from into outfile导出,再使用load data infile '' into table

    select * from 表名(可以使用多表联合查询) into outfile '绝对路径文件名';
    load data infile '绝对路径文件名' into table 表名 (字段名1,字段名2)

面临问题

  • 导出数据时,提示:The MySQL Server is Running with the --secure-file-priv Option So It Cannot Execute This Statement,这个错误可以通过配置my.conf文件解决,在mysqld段落中添加secure-file-priv配置:

    [mysqld]
    secure-file-priv=可用目录

  • 导入时,如果有不需要的字段,可以用@dump占位跳过不需要的字段,或者使用变量来处理,变量是可以进行计算操作的

sql 复制代码
SET @file_name = 'myfilename'
 ;

 LOAD DATA LOCAL INFILE @file_name  
 INTO TABLE revenue_table  
 FIELDS TERMINATED BY ','   
 LINES TERMINATED BY '\n'  
 ( @total_rev
 , @monthly_rev
 , @day_rev
 )
 SET `total_rev`   = @total_rev
   , `monthly_rev` = @monthly_rev
   , `day_rev`     = @day_rev
   , `from`        = @file_name
 ;

合理的流程

  • 先写个语句,看看能不能从A库插入记录到B库,注意限制行数,这个步骤用于避免字段不对应
sql 复制代码
insert into a (字段1,字段2...) select 字段1,字段2... from b limit 10
  • 导出数据后,在目的数据库拷贝粘贴测试好的字段对照,这样就可以避免非常大的麻烦

补充

  • 导入时,可以先删除索引,导入数据完成后再重建,可以提高处理速度
相关推荐
正在走向自律2 小时前
MySQL兼容性深度实践:建表、增删改查与迁移避坑全记录
数据库·sql·mysql·信创·数据库迁移
用户79384281066082 小时前
城市租房 EDA 实战|从脏数据清洗到 MySQL 入库
mysql
隔窗听雨眠3 小时前
openGauss开源五年的内核演进与生态工程
数据库·opengauss·国产数据库
Decay__3 小时前
PostgreSQL 体系架构全解 —— 进程模型、共享内存、MVCC 与 WAL 预写日志深入
运维·数据库·sql·mysql·架构
沐知全栈开发5 小时前
基于ClinicalTrials公开数据的临床试验分析系统-毕业设计
数据库·课程设计
半杯咖啡半行码5 小时前
Qt 隐式共享(Implicit Sharing)深度解析:机制、陷阱与 Qt6迁移
开发语言·数据库·qt
Nturmoils5 小时前
空值、日期、字符串:业务 SQL 里的函数先跑一遍
数据库
im_AMBER6 小时前
CDC 对账:数据同步之后,如何验证源库与目标库一致
后端·mysql·面试
倔强的石头_8 小时前
数据库选型四步法:我把候选从十几个缩到两个
数据库
TiDB 社区干货传送门9 小时前
挚文集团(陌陌、探探)从 MySQL 分库分表到 TiDB 实时统一架构的实践
mysql·架构·tidb