一千万条数据,怎么快速查询

一千万条数据怎么快速查询

普通分页查询

​ 当我们在日常工作中遇到大数据查询的时候,第一反应就是使用分页查询。

mysql支持limit语句来选取指定的条数数据,而oracle可以使用rownum来选取

mysql分页查询语句如下:

SELECT * FROM table LIMIT [offset,] rows | rows OFFSET offset
  • 第一个参数用来指定第一个返回记录行的偏移量

  • 第二个参数指定返回记录行的最大数目

    当相同的偏移量时,数据量越大,花费时间越长

    当相同的数据量时,偏移量越大,花费时间越长

如何优化

​ 经过上面的总结,我们可以很清晰的看到当偏移量大,数据量大的时候,查询的时间还是挺多的,所以我们就针对这两种来着手优化

偏移量大

采用子查询方式

我们可以先定位偏移位置的id,然后再查询数据

select * from test limit 1000000,10
select id from test limit 1000000,1
select * from test where id>=(select id from test limit 1000000,1)limit 10

​ 通过执行我们可以发现,第一条花费时间最大,第三条比第一条稍微好一点,而且子查询使用索引速度更快。

​ 但是只是适用于id递增的情况

采用id限定方式

​ 这种方法要求更高,id必须是连续递增,而且还得计算id的范围,然后使用between,sql如下:

select * from test where id between 1000000 and 1000100 limit 100;
select * from test where id>=1000000 limit 100

​ 结果很快

​ 这里limit是限制了条数,没有采用偏移量

优化数据量大问题

返回结果的数据量也会直接影响速度

减少不需要的列,查询效率会明显提升

猜你喜欢

转载自blog.csdn.net/issunmingzhi/article/details/108357871