node.js中实现MySQL的增量备份

有时候,我们需要对生产库进行备份,不要求实时性很高,大概每天一次就行,为性能考虑,只备份最新更改内容,即增量备份即可,这种场景下对DB的设计和备份语句有所要求。

首先要求按源表各字段定义目标表。

源表要有主键,没有主键的要增加一个自增ID来充当主键。

目标表跟源表一样定义主键,如果源表有自增字段,目标表取消该字段自增属性。

我们不仅要考虑新增记录,还要考虑记录的修改。要在源表中包含数据新增或者修改的时间属性字段。这样可以筛选出需要增量备份的记录。

可以采用insert into on duplicate key update方式来执行添加或修改。

示例代码如下:

javascript 复制代码
const getdata = 'select * from demotable where createtime> ? or modifytime> ?';
const incbackupcmd = 'insert into demotable(...) values ? on duplicate key update modifytime=values(modifytime),modifycontent=values(modifycontent)';

function pexecsql(mysqlconn,sqlcmd,args) {
	return new Promise((resolve, reject) => {
		mysqlconn.query(sqlcmd,args,(err,results)=> { 
			if (err) { errlog(jstrerr(err)); reject(err); }
			else { resolve({"rows":results}); }
			}); 
		});
	}
pexecsql(srcpool,getdata,[syncdb.lastsynctime,syncdb.lastsynctime]).then(res=>{
	if (res.rows.length>0) {
		let dataset=res.rows.map(item=>Object.values(item)); 
		pexecsql(destpool,incbackupcmd,[dataset]).then(..
相关推荐
AAA修煤气灶刘哥5 小时前
后端人速藏!数据库PD建模避坑指南
数据库·后端·mysql
程序新视界6 小时前
学习MySQL绕不开的两个基础概念:聚集索引与非聚集索引
mysql
RoyLin9 小时前
TypeScript设计模式:适配器模式
前端·后端·node.js
RestCloud9 小时前
跨境数据传输:ETL如何处理时区与日期格式差异
mysql·api
RestCloud10 小时前
揭秘 CDC 技术:让数据库同步快人一步
数据库·api
得物技术13 小时前
MySQL单表为何别超2000万行?揭秘B+树与16KB页的生死博弈|得物技术
数据库·后端·mysql
xiaok13 小时前
mysql中怎么创建一个可控权限数据库账号密码给到开发者
mysql
RoyLin14 小时前
TypeScript设计模式:迭代器模式
javascript·后端·node.js
可涵不会debug17 小时前
【IoTDB】时序数据库选型指南:工业大数据场景下的技术突围
数据库·时序数据库
ByteBlossom17 小时前
MySQL 面试场景题之如何处理 BLOB 和CLOB 数据类型?
数据库·mysql·面试