前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >MySQL-深度分页如何优化

MySQL-深度分页如何优化

作者头像
才疏学浅的木子
发布2023-10-17 08:37:03
5360
发布2023-10-17 08:37:03
举报
文章被收录于专栏:CSDN文章

场景举例

  1. 查询文章列表,一直滑动翻页,不用跳转到指定页数
  2. 从数据库查询百万客户数据写入到redis
  3. 访问某小程序的积分商城查看商品,一直滑动翻页,不用跳转到指定页数

问题分析

深度分页SQL

代码语言:javascript
复制
SELECT
*
FROM 表名
WHERE 条件
LIMIT #{offset},#{pageSize}

深度分页造成的结果,offset越来越大,回表的记录越来越多,SQL查询性能急剧下降,会出现大量的慢SQL

即使在二级索引中已经知道前10000条数据要丢掉,但是MySQL也会去聚集索引中去回表查询一下所以效率是很低的,同时这个也是一种随机IO所以来说更加慢

解决办法

方法一:产品上绕过

根据业务实际需求,看能否替换为上一页,下一页的功能,这样子就可以通过和上次数据进行比较,搭上树分支过滤的快车

代码语言:javascript
复制
select * from t where id > last_id limit 10

就是将上一页中的数据的最后一个id传输过来然后在聚集索引中快速查找

优点

  1. 能利用树的分支结构,过滤掉第n个数之前的数据
  2. 直接通过主键索引查找,省略了二级索引查找过程,性能更高

缺点

  1. 使用场景受限。比如针对非主键索引判断再分页那么使用主键id查找不满足需求
  2. 把主键id暴露出去了,这个本身不应该是业务层面关心的字段

方法二:子查询

先查询出所需要的数据的主键id,因为在非聚集索引中每个叶子节点记录的数据为其id,这样就不需要回表查询,然后再去主键索引中查询

代码语言:javascript
复制
select * from t where id in (select id from t where age > 10 offset 10000 limit 10)

优点

  1. 维持了分页需求,适用于所有的limit offset场景,大大减少了随机IO,提高了性能
  2. 二级索引上只查询id,传输数据包变小

缺点

  1. 二级索引还是会走下面的链表来遍历,这部分时间复杂度还是O(n)

方法三:INNER JOIN 延迟查询

延迟关联的优化思路,跟子查询的优化思路其实是一样的:都是把条件转移到主键索引树,然后减少回表。不同点是,延迟关联使用了inner join代替子查询

代码语言:javascript
复制
select * from t inner join (select id from t where age > 10 offset 10000 limit 10) as d where t.id = d.id

方法四:使用between … and …

将limit查询转换为已知位置的查询,但是这种方法具有很大的局限性所以很少使用

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2023-05-04,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 场景举例
  • 问题分析
    • 深度分页SQL
      • 解决办法
      相关产品与服务
      云数据库 MySQL
      腾讯云数据库 MySQL(TencentDB for MySQL)为用户提供安全可靠,性能卓越、易于维护的企业级云数据库服务。其具备6大企业级特性,包括企业级定制内核、企业级高可用、企业级高可靠、企业级安全、企业级扩展以及企业级智能运维。通过使用腾讯云数据库 MySQL,可实现分钟级别的数据库部署、弹性扩展以及全自动化的运维管理,不仅经济实惠,而且稳定可靠,易于运维。
      领券
      问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档