MySQL|删除mysql数据表内的重复数据记录

删除数据表内重复数据的常规顺序是:创建备份、确定重复记录、编写删除语句

方法一: 借助 inner join

sql 复制代码
DELETE t1 FROM table t1
INNER JOIN table t2 
WHERE t1.id < t2.id AND t1.column1 = t2.column1;
  • table是表名,id是表的唯一标识符,column1是想要根据其删除重复记录的列。这条SQL语句会删除column1列中具有相同值的所有记录,除了id最大的那一条记录。
  • 工作方式是,它会为表中的每个重复的column1值找到id值最小的记录,并将其删除。这样,只有id值最大的记录会被保留下来。

注:在执行操作之前,务必备份数据,以防万一。

方法二: 借助 group by

sql 复制代码
DELETE FROM your_table
WHERE id NOT IN (
    SELECT MAX(id)
    FROM your_table
    GROUP BY column1, column2, ... /* 列出用于判断重复的列 */
);
  • 这条语句会保留每组重复记录中的最大的 id,并删除其他重复记录。column1, column2 为用来判断重复的列名。

注:在执行操作之前,务必备份数据,以防万一。

方法三:借助 临时表

如果数据量很大,删除重复数据可以采用创建临时表的方式,效率更高。

步骤:

  1. 创建一个新的临时表,并将去重后的数据插入到新表中。
sql 复制代码
CREATE TABLE new_table AS
SELECT * FROM old_table
GROUP BY column_to_be_deduplicated;

在这里,new_table 是新创建的临时表的名字,old_table 是原来的表名,column_to_be_deduplicated 是需要去重的列名。

  1. 删除原来的表/修改原来的表名
sql 复制代码
DROP TABLE old_table;
sql 复制代码
RENAME TABLE old_table TO old_table_bak;
  1. 将新的临时表重命名为原来的表名。
sql 复制代码
RENAME TABLE new_table TO old_table;
  • 这种方式是先将去重后的数据插入到一个新的临时表,然后删除旧的表/修改旧表的名字,最后将临时表重命名为旧表的名字,好处是在处理大量数据时,效率会更高。
  • 在第二步的时候不建议采用直接删除旧表的方式,凡是涉及到数据变动的,均需万分谨慎。
相关推荐
其实防守也摸鱼19 分钟前
权限提升与横向移动:从内网渗透到域控的完整技术图谱
运维·服务器·数据库·安全·github·copilot·渗透
人生百态,人生如梦26 分钟前
每日论文解读(9.1)——ReToolSQL:面向鲁棒Text-to-SQL的Agentic强化学习与工具增强两阶段训练框架
数据库·sql
DevOpenClub34 分钟前
网页采集如何稳定输出结构化数据:JSON、链接与快照三阶段流水线
数据库·json·api
其实防守也摸鱼1 小时前
免杀与持久化入门:从载荷免杀到隐蔽通道的完整指南
运维·服务器·数据库·安全·github·copilot·渗透
SelectDB1 小时前
统一全文检索与 SQL 分析:Apache Doris 日志分析实践
运维·数据库·掘金技术征文
麻瓜code1 小时前
【MySQL】SQL优化实战:从慢查询定位到查询改写
数据库·sql·mysql
蓝鸟19742 小时前
Oracle HIS业务视图优化实战|VI_BQ_YWTX11从高耗费到秒级响应
数据库·oracle·his数据库调优·复合索引踩坑·is null索引问题·ql视图优化
数智启示录2 小时前
Apache Doris 4.0.8 混合检索实战(第 5 篇):三套系统只返回两条结果,一条 SQL 如何避开交集丢失
大数据·数据库·经验分享·sql·面试
今天AI了吗2 小时前
大模型技术全景(一):AI、机器学习、深度学习,三者的关系到底是什么?一文搞懂
数据库·人工智能·python·sql·深度学习·机器学习·rust
这个DBA有点耶2 小时前
RANGE/LIST/HASH/二级分区怎么选?分区表适用边界与隐藏代价
数据库·mysql·dba