为了方便,假设表名为Tbl,表中有三列col1,col2,col3,其中col1,col2是主键,并且,col1,col2上加了索引重复数据删除。
1、通过创建临时表
· 把数据先导入到一个临时表中,然后删除原表的数据,再把数据导回原表。SQL语句如下:
creat table tbl_tmp (select distinct * from tbl);
truncate table tbl;//清空表记录
insert into tbl select * from tbl_tmp;//将临时表中的数据插回来重复数据删除。
这种方法可以实现需求,但是很明显,对于一个千万级记录的表,这种方法很慢,在生产系统中,这会给系统带来很大的开销,不可行重复数据删除。
2、利用rowid
在oracle中,每一条记录都有一个rowid,rowid在整个数据库中是唯一的,rowid确定了每条记 录是oracle中的哪一个数据文件、块、行上重复数据删除。在重复的记录中,可能所有列的内容都相同,但rowid不会相同。SQL语句如下:
delete from tbl
where rowid in (
select a.rowid from tbl a, tbl b
where a.rowid>b.rowid
and a.col1=b.col1
and a.col2 = b.col2
);
如果已经知道每条记录只有一条重复的,这个sql语句适用重复数据删除。但是如果每条记录的重复记录有N条,这个N是未知的,就要考虑适用下面这种方法了。
3、利用max或min函数
这里也要使用rowid,与上面不同的是结合max或min函数来实现重复数据删除。SQL语句如下:
delete from tbl a
where rowid < (
select max(b.rowid) from tbl b
where a.col1=b.col1
and a.col2 = b.col2
);//这里如果把max换成min的话重复数据删除,前面的where子句中需要把"<"改为">"
或者用下面的语句:
delete from tbl a
where rowid not in (
select max(b.rowid) from tbl b
where a.col1=b.col1
and a.col2 = b.col2
);//这里max使用min也可以
4、使用group by
对于表中有重复记录的记录比较少的,并且有索引的情况,比较适用重复数据删除。假定col1,col2上有索引,并且tbl表中有重复记录的记录比较少,减少了显性的比较条件,提高效率重复数据删除。SQL语句如下:
delete from tbl
where rowid not in (
select max(rowid) from tbl t
group by t.col1, t.col2
);
delete from tbl
where (col1, col2) in (
select col1,col2 from tbl
group by col1,col2
having count(*) >1
)
and rowid not in (
select min (rowid) from tbl
group by col1,col2
having count(*) >1
)