再用传统分页 SQL 你就死定了 (查看原文)

版权声明:老叶的技术文章,无论原创与转载,均欢迎转载,若能注明出处则更好,感谢0、导读在分页功能开发时,我们很习惯用LIMIT O,N的方法来取数据。这种方法在遇到超大分页偏移量...

0、导读

在分页功能开发时,我们很习惯用LIMIT O,N的方法来取数据。这种方法在遇到超大分页偏移量时是会把MySQL搞死的,请别再这么写SQL了

通常,我们会采用ORDER BY LIMIT start, offset 的方式来进行分页查询。例如下面这个SQL:

    SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 100, 10;
或者像下面这个不带任何条件的分页SQL:
    SELECT * FROM `t1` ORDER BY id DESC LIMIT 100, 10;
一般而言,分页SQL的耗时随着 start 值的增加而急剧增加,我们来看下面这2个不同起始值的分页SQL执行耗时:
    yejr@imysql.com> SELECT * FROM `t1` WHERE ftype=1

       ORDER BY id DESC LIMIT 500, 10;

    …

    10 rows in set (0.05 sec)


    yejr@imysql.com> SELECT * FROM `t1` WHERE ftype=6 

       ORDER BY id DESC LIMIT 935500, 10;

    …

    10 rows in set (2.39 sec)

可以看到,随着分页数量的增加,SQL查询耗时也有数十倍增加,显然不科学。

今天我们就来分析下,如何能优化这个分页方案。

一般滴,想要优化分页的终极方案就是:没有分页,哈哈哈~~~,不要说我讲废话,确实如此,可以把分页算法交给Solr、Lucene、Sphinx等第三方解决方案,尤其是遇到有模糊搜索的需求时,没必要让MySQL来做它不擅长的事情。

当然了,有小伙伴说,用第三方太麻烦了,我们就想用MySQL来做这个分页,咋办呢?莫急,且待我们慢慢分析。

先看下表DDL、数据量、查询SQL的执行计划等信息:

    yejr@imysql.com> SHOW CREATE TABLE `t1`;

    CREATE TABLE `t1` (

     `id` int(10) unsigned NOT NULL AUTO_INCREMENT,

    ...

     `ftype` tinyint(3) unsigned NOT NULL,

    ...

     PRIMARY KEY (`id`)

    ) ENGINE=InnoDB DEFAULT CHARSET=utf8;


    yejr@imysql.com> select count(*) from t1;

    +----------+

    | count(*) |

    +----------+

    | 994584 |

    +----------+


    yejr@imysql.com> EXPLAIN SELECT * FROM `t1` WHERE ftype=1 

       ORDER BY id DESC LIMIT 500, 10\G

    *************************** 1. row ***************************

     id: 1

     select_type: SIMPLE

     table: t1

     type: index

    possible_keys: NULL

     key: PRIMARY

     key_len: 4

     ref: NULL

    rows: 510

     Extra: Using where


    yejr@imysql.com> EXPLAIN SELECT * FROM `t1` WHERE ftype=1

       ORDER BY id DESC LIMIT 935500, 10\G

    *************************** 1. row ***************************

     id: 1

     select_type: SIMPLE

     table: t1

     type: index

    possible_keys: NULL

     key: PRIMARY

     key_len: 4

     ref: NULL

    rows: 935510

     Extra: Using where

可以看到,虽然是通过主键索引扫描数据的,但第二个SQL需要扫描的记录数太大了,而且需要先扫描约935510条记录,然后再根据排序结果取10条记录,这肯定是非常慢了。

针对这种情况,我们的优化思路就比较清晰了,有两点:

  1. 尽可能从索引中直接获取数据,避免或减少再次扫描行数据的次数(也就是我们通常所说的避免回表);

  2. 尽可能减少扫描的记录数,也就是先确定起始的范围,再往后取N条记录。

根据上面这两种优化思路,有相应的SQL改写方法:子查询、表连接,像下面这样的:

    #方法一

    #采用子查询的方式优化,在子查询里先从索引获取到最大id,然后倒序排,再取10行结果集

    #注意这里采用了两次倒序排,因此在取LIMIT的start值时,比原来的值加了10,即935510,否则结果将和原来的不一致


    yejr@imysql.com> EXPLAIN SELECT * FROM (SELECT * FROM `t1` WHERE 

      id > ( SELECT id FROM `t1` WHERE ftype=1 

      ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) t ORDER BY id DESC\G

    *************************** 1. row ***************************

     id: 1

     select_type: PRIMARY

     table: <derived2>

     type: ALL

    possible_keys: NULL

     key: NULL

     key_len: NULL

     ref: NULL

     rows: 10

     Extra: Using filesort

    *************************** 2. row ***************************

     id: 2

     select_type: DERIVED

     table: t1

     type: ALL

    possible_keys: PRIMARY

     key: NULL

     key_len: NULL

     ref: NULL

     rows: 973192

     Extra: Using where

    *************************** 3. row ***************************

     id: 3

     select_type: SUBQUERY

     table: t1

     type: index

    possible_keys: NULL

     key: PRIMARY

     key_len: 4

     ref: NULL

     rows: 935511

     Extra: Using where


    #方法二

    #采用INNER JOIN优化,JOIN子句里也优先从索引获取ID列表,然后直接关联查询获得最终结果,这里不需要加10


    yejr@imysql.com> EXPLAIN SELECT * FROM `t1` INNER JOIN 

      ( SELECT id FROM `t1` WHERE ftype=1 

      ORDER BY id DESC LIMIT 935500,10) t2 USING (id)\G

    *************************** 1. row ***************************

     id: 1

     select_type: PRIMARY

     table: <derived2>

     type: ALL

    possible_keys: NULL

     key: NULL

     key_len: NULL

     ref: NULL

     rows: 935510

     Extra: NULL

    *************************** 2. row ***************************

     id: 1

     select_type: PRIMARY

     table: t1

     type: eq_ref

    possible_keys: PRIMARY

     key: PRIMARY

     key_len: 4

     ref: t2.id

     rows: 1

     Extra: NULL

    *************************** 3. row ***************************

     id: 2

     select_type: DERIVED

     table: t1

     type: index

    possible_keys: NULL

     key: PRIMARY

     key_len: 4

     ref: NULL

     rows: 973192

     Extra: Using where

然后来对比下这2个优化后的执行时间/代价:

    #1、子查询优化:从profiling的结果来看,相比原来耗时减少 28.2%

    yejr@imysql.com> SELECT * FROM (SELECT * FROM `t1` WHERE 

      id > ( SELECT id FROM `t1` WHERE ftype=1 

      ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) T ORDER BY id DESC;

    ...

    rows in set (1.86 sec)


    #2、INNER JOIN优化:从profiling的结果来看,相比原来耗时减少30.8%

    yejr@imysql.com> SELECT * FROM `t1` INNER JOIN 

      ( SELECT id FROM `t1` WHERE ftype=1 

      ORDER BY id DESC LIMIT 935500,10) t2 USING (id);

    ...

    10 rows in set (1.83 sec)

再来看一个不带过滤条件的分页SQL对比:

    #1、原始SQL

    yejr@imysql.com> EXPLAIN SELECT * FROM `t1` ORDER BY id DESC LIMIT 935500, 10\G

    *************************** 1. row ***************************

               id: 1

      select_type: SIMPLE

            table: t1

             type: index

    possible_keys: NULL

              key: PRIMARY

          key_len: 4

              ref: NULL

             rows: 935510

            Extra: NULL


    yejr@imysql.com> SELECT * FROM `t1` ORDER BY id DESC LIMIT 935500, 10;

    ...

    10 rows in set (2.22 sec)



    #2、采用子查询优化,相比原来耗时减少10.6%

    yejr@imysql.com> EXPLAIN SELECT * FROM (SELECT * FROM `t1` WHERE 

      id > ( SELECT id FROM `t1` ORDER BY id DESC 

      LIMIT 935510, 1) LIMIT 10) t ORDER BY id DESC;

    *************************** 1. row ***************************

               id: 1

      select_type: PRIMARY

            table: <derived2>

             type: ALL

    possible_keys: NULL

              key: NULL

          key_len: NULL

              ref: NULL

             rows: 10

            Extra: Using filesort

    *************************** 2. row ***************************

               id: 2

      select_type: DERIVED

            table: t1

             type: ALL

    possible_keys: PRIMARY

              key: NULL

          key_len: NULL

              ref: NULL

             rows: 973192

            Extra: Using where

    *************************** 3. row ***************************

               id: 3

      select_type: SUBQUERY

            table: t1

             type: index

    possible_keys: NULL

              key: PRIMARY

          key_len: 4

              ref: NULL

             rows: 935511

            Extra: Using index


    yejr@imysql.com> SELECT * FROM (SELECT * FROM `t1` WHERE 

      id > ( SELECT id FROM `t1` ORDER BY id DESC 

      LIMIT 935510, 1) LIMIT 10) t ORDER BY id DESC;

    …

    10 rows in set (2.01 sec)



    #3、采用INNER JOIN优化,相比原来耗时减少30.2%

    yejr@imysql.com> EXPLAIN SELECT * FROM `t1` INNER JOIN 

      ( SELECT id FROM `t1`ORDER BY id DESC 

      LIMIT 935500,10) t2 USING (id)\G

    *************************** 1. row ***************************

               id: 1

      select_type: PRIMARY

            table: 

             type: ALL

    possible_keys: NULL

              key: NULL

          key_len: NULL

              ref: NULL

             rows: 935510

            Extra: NULL

    *************************** 2. row ***************************

               id: 1

      select_type: PRIMARY

            table: t1

             type: eq_ref

    possible_keys: PRIMARY

              key: PRIMARY

          key_len: 4

              ref: t1.id

             rows: 1

            Extra: NULL

    *************************** 3. row ***************************

               id: 2

      select_type: DERIVED

            table: t1

             type: index

    possible_keys: NULL

              key: PRIMARY

          key_len: 4

              ref: NULL

             rows: 973192

            Extra: Using index


    yejr@imysql.com> SELECT * FROM `t1` INNER JOIN 

      ( SELECT id FROM `t1`ORDER BY id DESC 

      LIMIT 935500,10) t2 USING (id);

    …

    10 rows in set (1.70 sec)

至此,我们看到采用子查询或者INNER JOIN进行优化后,都有大幅度的提升,这个方法也同样适用于较小的分页。

说下结论,子查询和INNER JOIN分页优化方法的提升效率是:

  • 带WHERE条件的分页分别能提高查询效率:24.9%、156.5%;

  • 不带WHERE条件的分页分别提高查询效率:554.5%、11.7%。

单从提升比例说,还是挺可观的。而且这两种优化方法基本上可适用于各种分页模式,强烈建议一开始就改成这种SQL写法习惯。

我们来看下各种场景相应的提升比例是多少:

这样看就和明显了,尤其是针对大分页的情况,因此我们优先推荐使用INNER JOIN方式优化分页算法。

上述每次测试都重启mysqld实例,并且加了SQL_NO_CACHE,以保证每次都是直接数据文件或索引文件中读取。如果数据经过预热后,查询效率会一定程度提升,但上述相应的效率提升比例还是基本一致的。

相关阅读:

[MySQL优化案例]系列 — discuz!热帖翻页优化

老叶茶馆镇店之宝,扫码识别或访问 http://yejinrong.com 直达
blog.csdn.net   
评论 (18)
Thumb

ctsPrsvrnc 2017-04-15 17:25

这篇文章,点赞的肯定是不去自己测试的。
Thumb

日月星城 2017-04-14 00:55

写的什么乱七八糟的,我就没看懂,为什么优化后还是需要扫描那么多行?和你优化前的优化方向就不对
Thumb

絮絮念秋风 2017-04-13 21:19

前几天看python社区有人说朋友说最近有很不好的苗头,很多文章题目写的很大很吓唬人,其实内容很入门很基础。这篇如是。你的数据库总共994000多行,你查的是993000多行的数据,然后分别正序倒序查询两次,然后告诉我们倒序快了30%。意义何在。
Thumb

£幻影£ 2017-04-13 12:24

难道你就只会这样技术,难道你只会建表,而你懂得表的灵活运用吗,难道你不懂啥需要视图干嘛,啥要索引干嘛.....逗比,也太入门低级了吧
Thumb

小鱼 2017-04-13 09:30

难道我看错,差不多都2秒啊,大于小于就快很多。
Thumb

Doqu Wu. 2017-04-12 19:40

优化前2+s,优化后还是1-2s没意义;我只是个总监,我要的是0.1-0.15s内必须返回结果
Thumb

古德奈特 2017-04-12 14:03

表示代码不全,只能看一半。
Thumb

kevin 2017-04-11 23:53

第一个比较的SQL条件不一样啊,一个是6一个是1这是为什么?还要这个SQL只是按主键排序了这个ftype的索引区分度完全不高啊。
Thumb

dengshenyu 2017-04-11 23:12

有理论依据么?
Thumb

王霖 2017-04-11 22:29

@落叶心碎 那start_id哪来的呢?
Thumb

落叶♂心碎♀ 2017-04-11 21:12

可以采用start_id的方式!比如select * from table where start_id > x limit page_size 这样只会扫描 page_size行,同时start_id列索引优化合理,这样减少压力。
Thumb

木支木兮 2017-04-11 21:07

前端小兵竟然全看懂了😄😄😄感谢大神分享
14103319?v=3

Yachen Zhang 2017-04-11 20:30

您好,想问下这个mysql的版本是多少。在我的印象里explain的rows是不随limitx,y中的x,y增加而变化的。 谢谢。
Thumb

简的言 2017-04-11 20:06

bigpotato920说的对啊
Thumb

王霖 2017-04-11 17:04

确实快不少,楼主还可以试试带排序的,如果排序没有走索引而是用到了filesort,那这种先只取id的方式比全部取出,速度能快个数量级
Thumb

Moss Chou 2017-04-11 10:23

SELECT * FROM users WHERE id > 120000 LIMIT 10
Thumb

王霖 2017-04-11 09:19

能不能比较下分两次查询的时长:1. 查出最小id;2. 查询大于该id的10条。
Thumb

bigpotato920 2017-04-11 09:15

这种分页采用游标的方式更简单,而且效率更高,每次查询把下一页的游标返回,再分页的时候直接查询

开发者头条

程序员分享平台