SQL优化——IN和EXISTS谁的效率更高

数据和云

发布于 2021-08-27 16:06:05

5.5K0

发布于 2021-08-27 16:06:05

文章被收录于专栏：数据和云

点击上方"蓝字"

关注我们，享更多干货！

IN和EXISTS被频繁使用在SQL中，虽然作用是一样的，但是在使用效率谁更高这点上众说纷纭。下面我们就通过一组测试来看，在不同场景下，使用哪个效率更高。

测试数据：

B表: 大表，大约300000行数据

CREATE TABLE `B` (
  `id` int NOT NULL AUTO_INCREMENT,
  `B_id` int NOT NULL,
  `value` varchar(20) NOT NULL,
  `flag` int not null,
   PRIMARY KEY (`id`),
   KEY `idx_b_flag` (`flag`),
   KEY `idx_b_id` (`B_id`)
)


A表: 小表，20000行数据

CREATE TABLE `A` (
  `id` int NOT NULL AUTO_INCREMENT,
  `flag` int NOT NULL,
  `value` varchar(20) NOT NULL,
  PRIMARY KEY (`id`),
  KEY `idx_a_flag` (`flag`)
)

测试1：

子查询 select flag from B where B_id<100 结果集99条。

select * from A where flag in (select flag from B where B_id<100 );
198 rows in set (0.00 sec)
select * from A where exists (select * from B where B_id<100 and A.flag=B.flag);
198 rows in set (0.10 sec)

可以看到本次测试IN效率高于EXISTS。

再看执行计划：

IN的执行计划：

（1）执行A表的查询，查询条件是A.flag在结果集B里面，可以使用到A表的索引flag；

（2）执行B表的子查询，得到结果集B，可以使用到B表的索引B_id。

EXISTS的执行计划:

（1）先将A表所有记录取到；

（2）逐行针对A表的记录，去关联B表，判断B表的子查询是否有返回数据，5.5之后的版本使用Block Nested Loop(Block 嵌套循环)；

（3）如果子查询有返回数据，则将A当前记录返回到结果集。

A相当于取全表数据遍历，B可以使用到索引。

测试2：

子查询 select flag from B where B_id>100 结果集 299899条。

select * from A where flag in (select flag from B where B_id>100 );
19798 rows in set (0.09 sec)
select * from A where exists (select * from B where B_id>100 and A.flag=B.flag);
19798 rows in set (0.06 sec)

可以看到本次EXISTS效率比IN高。

再看执行计划：

两者的索引使用情况与第一次实验是一致的，当子查询结果集很大，而外部表较小的时候，Exists的Block Nested Loop(Block 嵌套循环)的作用开始显现，查询效率会优于IN。

从两次测试来看，并不能说明谁的效率更高，而应该具体情况具体分析:

首先来看IN和EXISTS的执行原理：

IN是做外表和内表通过Hash连接，先查询子表，再查询主表，不管子查询是否有数据，都对子查询进行全部匹配。

EXISTS是外表做loop循环，先主查询，再子查询，然后去子查询中匹配，如果匹配到就退出子查询返回true，将结果放到结果集。

IN原理

在in()的执行中，先执行内表得到结果集，再执行外表。外表会对所有的内表结果集匹配，也就是说：如果外表有100，内表有10000，就会执行100*10000次。所以在内表比较大的时候，不合适用in()方法，效率比较低。

select * from 外表 a where id in (select 相关id from 内表) IN的执行类似如下：

List resultSet=[];
  Array A=(select * from A);
  Array B=(select id from B);
   
  for(int i=0;i<A.length;i++) {
     for(int j=0;j<B.length;j++) {
        if(A[i].id==B[j].id) {
           resultSet.add(A[i]);
           break;
        }
     }
  }
  return resultSet;

EXISTS原理

exists()的执行过程中，并没有对每一条内表的数据都进行查询，而是存在该条数据的时候会将结果集存起来，到最后的时候同一输出结果集。

select a.* from 外表 a where exists(select 1 from 内表 b where a.id=b.id) 的EXISTS的执行语句如下：

List resultSet=[];
Array A=(select * from 外表 A)
 
for(int i=0;i<A.length;i++) {
   if(exists(A[i].id) {    //执行select 1 from 内表 b where b.id=a.id是否有记录返回
       resultSet.add(A[i]);
   }
}
return resultSet;

设:外表A，内表B。

A表有10000条记录,B表有1000000条记录, 那么exists()会执行10000次去判断A表中的id是否与B表中的id相等。

A表有10000条记录,B表有100000000条记录,那么exists()还是执行10000次,因为它只执行A.length次,可见B表数据越多,越适合exists()发挥效果。

再如:A表有10000条记录,B表有100条记录,那么exists()还是执行10000次,还不如使用in()遍历10000*100次,因为in()是在内存里遍历比较,而exists()需要查询数据库,我们都知道查询数据库所消耗的性能更高,而内存比较很快。

# 总结 #

1、IN查询在内部表和外部表上都可以使用到索引；

2、EXISTS查询仅内部表上可以使用到索引，外表会全表扫描；当子查询结果集很大，而外部表较小的时候，EXISTS的Block Nested Loop(Block 嵌套循环)的作用开始显现，查询效率会优于IN；

3、当子查询结果集较小，而外部表很大的时候，EXISTS的Block嵌套循环优化效果不明显，IN 的外表索引优势占主要作用，此时IN的查询效率会优于EXISTS。

子查询结果集越大用EXISTS，子查询结果集越小用IN。

墨天轮原文链接：https://www.modb.pro/db/95929（复制链接至浏览器或点击文末阅读原文查看)

关于作者

陈家睿，云和恩墨MySQL技术顾问,拥有MySQL OCP、PGCE、OBCA、SCDP证书，长期服务于电信行业。现负责公司MySQL数据库、分布式数据库运维方面的技术工作；热衷于运维故障处理、备份恢复、升级迁移、性能优化的学习与分享。