有些 MySQL 数据表中可能存在重复的记录，有些情况我们允许重复数据的存在，但有时候我们也需要删除这些重复的数据。
读取不重复的数据可以在 SELECT 语句中使用 DISTINCT 关键字来过滤重复数据。
正文之前 昨天终于把我苦命的毕业设计审批表送出去了。结果暑假的生产实习开始对账，我这儿又开始忙活了，还要签字，我有时候都在想要不全班代签一遍算了。不然真的揪心啊！mmp，就学校这些东西破事多！！虽然合
有同时反馈，直接通过如下的sql进行分页查询，分页会出现重复数据，于是乎我专门查了相关了资料，整理了一下。
MySQL5.7.38主从架构，主节点唯一索引上（唯一索引不是主键）有重复值，全部从节点报1062，SQL线程状态异常，根据SQL线程报的binlog位置点，insert 数据时有重复值，插入失败
数据库版本 Server version: 5.1.41-community-log MySQL Community Server (GPL)
–3、 –先去除重复,去除后的数据将重新插入新表中,即就得到了没有重复后的数据了—-
之前碰到asp.net core异步进行新增操作并且需要判断某些字段是否重复的问题，进行插入操作的话会导致数据库中插入重复的字段！下面把我的解决方法记录一下，如果对您有所帮助，欢迎拍砖！
最常见的方式就是为字段设置主键或唯一索引，当插入重复数据时，抛出错误，程序终止，但这会给后续处理带来麻烦，因此需要对插入语句做特殊处理，尽量避开或忽略异常，下面我简单介绍一下，感兴趣的朋友可以尝试一下：
写在前面：2020年面试必备的Java后端进阶面试题总结了一份复习指南在Github上，内容详细，图文并茂，有需要学习的朋友可以Star一下！ GitHub地址：https://github.com/abel-max/Java-Study-Note/tree/master
语法和理论转自https://www.runoob.com/mysql/mysql-where-clause.html
爱可生 DBA 团队成员，擅长故障分析、性能优化，个人博客：https://www.jianshu.com/u/a95ec11f67a8，欢迎讨论。
接口幂等性问题，对于开发人员来说，是一个跟语言无关的公共问题。本文分享了一些解决这类问题非常实用的办法，绝大部分内容我在项目中实践过的，给有需要的小伙伴一个参考。
版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/haluoluo211/article/details/77984451
业务很简单：需要批量插入一些数据，数据来源可能是其他数据库的表，也可能是一个外部excel的导入
mysql查看重复数据, 可以按照email进行分组，然后使用having子句过滤count>1的数据，查询的结果就是重复的数据
许多面向用户的互联网业务都会在系统后端维护一份用户数据，快应用中心业务也同样做了这件事。快应用中心允许用户对快应用进行收藏，并在服务端记录了用户的收藏列表，通过用户账号标识OpenID来关联收藏的快应用包名。
前不久在写一个分页接口的时候，在测试阶段出现了排序结果紊乱且数据不正确的问题，那个接口是按照create_time进行排序的，但是对应的表中有很多相同create_time的数据，最后发现是因为 order by 排序的时候，如果排序字段中有多行相同的列值，则排序结果是不确定的。
普通索引(INDEX)：最基本的索引，没有任何限制 唯一索引(UNIQUE)：与”普通索引”类似，不同的就是：索引列的值必须唯一，但允许有空值。 主键索引(PRIMARY)：它 是一种特殊的唯一索引，不允许有空值。 全文索引(FULLTEXT )：可用于 MyISAM 表，mysql5.6之后也可用于innodb表， 用于在一篇文章中，检索文本信息的, 针对较大的数据，生成全文索引很耗时和空间。 联合（组合）索引：为了更多的提高mysql效率可建立组合索引，遵循”最左前缀“原则。
数据库中表存在重复数据，需要清理重复数据，清理后保留其中一条的情况是比较常见的需求，如何通过1条SQL准确的删除数据呢？
在MySQL数据库中，当我们面对一个拥有大量数据的表，并且需要删除重复数据时，我们需要采用高效的方法来处理。今天了我们正好有张表，大概3千万条数据，重复数据有近2千多万条，本文将介绍几种方法，帮助您删除MySQL表中重复的数据中。
来源：http://www.telami.cn/2018/when-mysql-batch-inserts-and-how-to-not-insert-duplicate-data/
前段时间我踩过一个坑：在mysql8的一张innodb引擎的表中，加了唯一索引，但最后发现数据竟然还是重复了。
业务很简单：需要批量插入一些数据，数据来源可能是其他数据库的表，也可能是一个外部excel的导入。
insert ignore会忽略数据库中已经存在的数据(根据主键或者唯一索引判断)，如果数据库没有数据，就插入新的数据，如果有数据的话就跳过这条数据.
在网上看过一些解决方法 我在此给出的方法适用于无唯一ID的情形 表：TB_MACVideoAndPicture 字段只有2个：mac,content mac作为ID，正常情况下mac数据是唯一的，由于操作失误导致数据插入多次，导致出现多个mac,content重复数据，现在只保留一条，删除多余的 大体思想是给重复数据一个自增ID，过滤出每组里面最小ID，删除原数据中所有重复数据再将最小ID插入 --查询出所有重复数据,并给定递增id SELECT IDENTITY( INT,1,1 ) AS id ,
最近测试给我提了一个bug，说我之前提供的一个批量复制商品的接口，产生了重复的商品数据。
加班原因是上线，解决线上数据库存在重复数据的问题，发现了程序的bug，很好解决，有点问题的是，修正线上的重复数据。
我们知道DISTINCT可以去掉重复数据，GROUP BY在分组后也会去掉重复数据，那这两个关键字在去掉重复数据时的效率，究竟谁会更高一点？
大家注意：因为微信改了推送机制，会有小伙伴刷不到当天的文章，一些比较实用的知识和信息，错过了就是错过了。所以建议大家加个星标
为了解决MergeTree相同主键无法去重的问题，ClickHouse提供了ReplacingMergeTree引擎，用来对主键重复的数据进行去重。
MySQL 事务主要用于处理操作量大，复杂度高的数据。比如说，在人员管理系统中，你删除一个人员，你既需要删除人员的基本资料，也要删除和该人员相关的信息，如信箱，文章等等，这样，这些数据库操作语句就构成一个事务，详细了解可以看一下这篇【常识与进阶】！
后面的数据不能和前面重复；eg:cardNochar(18)unique；cardNo列中不允许重复数据。
我们可能会出现这种情况，某个表原来设计不周全，导致表里面的数据数据重复，那么，如何对重复的数据进行删除呢？ 重复的数据可能有这样两种情况，第一种时表中只有某些字段一样，第二种是两行记录完全一样。 一、对于部分字段重复数据的删除 先来谈谈如何查询重复的数据吧。 下面语句可以查询出那些数据是重复的： select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1 将上面的>号改为=号就可以查询出没有重复的数据了。 想要删除这些重复的数据，可以使用下面语句进行删除 delete from 表名 a where 字段1,字段2 in (select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1) 上面的语句非常简单，就是将查询到的数据删除掉。不过这种删除执行的效率非常低，对于大数据量来说，可能会将数据库吊死。所以我建议先将查询到的重复的数据插入到一个临时表中，然后对进行删除，这样，执行删除的时候就不用再进行一次查询了。如下： CREATE TABLE 临时表 AS (select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1) 上面这句话就是建立了临时表，并将查询到的数据插入其中。 下面就可以进行这样的删除操作了： delete from 表名 a where 字段1,字段2 in (select 字段1，字段2 from 临时表); 这种先建临时表再进行删除的操作要比直接用一条语句进行删除要高效得多。 这个时候，大家可能会跳出来说，什么？你叫我们执行这种语句，那不是把所有重复的全都删除吗？而我们想保留重复数据中最新的一条记录啊！大家不要急，下面我就讲一下如何进行这种操作。 在oracle中，有个隐藏了自动rowid，里面给每条记录一个唯一的rowid，我们如果想保留最新的一条记录， 我们就可以利用这个字段，保留重复数据中rowid最大的一条记录就可以了。 下面是查询重复数据的一个例子： select a.rowid,a.* from 表名 a where a.rowid != ( select max(b.rowid) from 表名 b where a.字段1 = b.字段1 and a.字段2 = b.字段2 ) 下面我就来讲解一下，上面括号中的语句是查询出重复数据中rowid最大的一条记录。 而外面就是查询出除了rowid最大之外的其他重复的数据了。 由此，我们要删除重复数据，只保留最新的一条数据，就可以这样写了： delete from 表名 a where a.rowid != ( select max(b.rowid) from 表名 b where a.字段1 = b.字段1 and a.字段2 = b.字段2 ) 随便说一下，上面语句的执行效率是很低的，可以考虑建立临时表，讲需要判断重复的字段、rowid插入临时表中，然后删除的时候在进行比较。 create table 临时表 as select a.字段1,a.字段2,MAX(a.ROWID) dataid from 正式表 a GROUP BY a.字段1,a.字段2; delete from 表名 a where a.rowid != ( select b.dataid from 临时表 b where a.字段1 = b.字段1 and a.字段2 = b.字段2 ); commit; 二、对于完全重复记录的删除 对于表中两行记录完全一样的情况，可以用下面语句获取到去掉重复数据后的记录： select distinct * from 表名 可以将查询的记录放到临时表中，然后再将原来的表记录删除，最后将临时表的数据导回原来的表中。如下： CREATE TABLE 临时表 AS (select distinct * from 表名); truncate table 正式表; --注：原先由于笔误写成了drop table 正式表;，现在已经改正过来 insert into 正式表 (select * from 临时表); drop table 临时表;
最近在做一个批量数据导入到MySQL数据库的功能，从批量导入就可以知道，这样的数据在插入数据库之前是不会进行重复判断的，因此只有在全部数据导入进去以后在执行一条语句进行删除，保证数据唯一性。
[Err] 1093 - You can't specify target table 'dept' for update in FROM clause 原因：更新这个表的同时又查询了这个表，查询这个表的同时又去更新了这个表，可以理解为死锁。mysql不支持这种更新查询同一张表的操作。所以我们用生成临时表去操作，上面的语句就是这么写的。复制即可。
点击上方蓝色“程序猿DD”，选择“设为星标” 回复“资源”获取独家整理的学习资料！ 来源：blog.csdn.net/horses/article/details/10455307 关系模型（Relational model）由 E.F.Codd 博士于 1970 年提出，以集合论中的关系概念为基础；无论是现实世界中的实体对象还是它们之间的联系都使用关系表示。我们在数据库系统中看到的关系就是二维表（Table），由行（Row）和列（Column）组成。因此，也可以说关系表是由数据行构成的集合。 关系模
在SQL数据库中，UNIQUE约束是一种用于确保数据唯一性的重要工具。本文将深入探讨UNIQUE约束的概念、应用场景以及使用方法，以帮助读者更好地理解和利用UNIQUE约束来保证数据的一致性和准确性。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频
