oracle快速删除重复记录.doc

oracle－快速删除重复的记录 　2006-06-21 09:29:12　来源: csdn　　网友评论0?条 论坛 　 文/Ray 做项目的时候，一位同事导数据的时候，不小心把一个表中的数据全都搞重了，也就是说，这个表里所有的记录都有一条重复的。这个表的数据是千万级的，而且是生产系统。也就是说，不能把所有的记录都删除，而且必须快速的把重复记录删掉。 对此，总结了一下删除重复记录的方法，以及每种方法的优缺点。 为了陈诉方便，假设表名为Tbl，表中有三列col1，col2，col3，其中col1，col2是主键，并且，col1，col2上加了索引。 1、通过创建临时表 可以把数据先导入到一个临时表中，然后删除原表的数据，再把数据导回原表，SQL语句如下： creat table tbl_tmp (select distinct* from tbl);truncate table tbl;//清空表记录insert into tbl select * from tbl_tmp;//将临时表中的数据插回来。 这种方法可以实现需求，但是很明显，对于一个千万级记录的表，这种方法很慢，在生产系统中，这会给系统带来很大的开销，不可行。 2、利用rowid 在oracle中，每一条记录都有一个rowid，rowid在整个数据库中是唯一的，rowid确定了每条记录是oracle中的哪一个数据文件、块、行上。在重复的记录中，可能所有列的内容都相同，但rowid不会相同。SQL语句如下： delete from tbl where rowid in (select a.rowid from tbl a, tbl b where a.rowidb.rowid and a.col1=b.col1 and a.col2 = b.col2) 如果已经知道每条记录只有一条重复的，这个sql语句适用。但是如果每条记录的重复记录有N条，这个N是未知的，就要考虑适用下面这种方法了。 3、利用max或min函数 这里也要使用rowid，与上面不同的是结合max或min函数来实现。SQL语句如下 delete from tbl awhere rowid not in (select max(b.rowid) from tbl b where a.col1=b.col1 and a.col2 = b.col2);//这里max使用min也可以 或者用下面的语句 delete from tbl awhere rowid(select max(b.rowid) from tbl b where a.col1=b.col1 and a.col2 = b.col2);//这里如果把max换成min的话，前面的where子句中需要把改为 跟上面的方法思路基本是一样的，不过使用了group by，减少了显性的比较条件，提高效率。SQL语句如下： deletefrom tbl where rowid not in (select max(rowid) from tbl t group by t.col1, t.col2); delete from tbl where (col1, col2) in (select col1,col2 from tblgroup bycol1,col2havingcount(*) 1)and rowidnotin(selectnin(rowid)fromtblgroup bycol1,col2havingcount(*) 1) 还有一种方法，对于表中有重复记录的记录比较少的，并且有索引的情况，比较适用。假定col1，col2上有索引，并且tbl表中有重复记录的记录比较少，SQL语句如下4、利用group by，提高效率 嵌套表外部表和内部表指定引起的逻辑读开销 1、使用leading和use_nl来设置表的查询顺序，来加快查询速度，一般把小表设为第一个表。/*+LEADING(TABLE)*/　　将指定的表作为连接次序中的首表./*+USE_NL(TABLE)*/　　将指定表与嵌套的连接的行源进行连接,并把指定表作为内部表.成本计算方法：设小表100行，大表100000行。两表均有索引：如果小表在内，大表在外(驱动表)的话，则扫描次数为：100000+100000*2 (其中2表示IO次数，一次索引，一次数据)如果大表在内，小表在外(驱动表)的话，则扫描次数为：100+100*2.两表均无索引：如果小表在内，大表在外的话，则扫描次数为：100000+100*100000如果大表在内，小表在外的话，则扫描次数为：100+100000*100注意：如果一个表有索引，一个表没有索引，ORACLE