mysql_字符串加索引选择

字符串加索引选择

学习检测

  1. 字符串加索引方式?都有什么优缺点?

  2. 两种方式的执行过程时什么?

  3. 前缀索引有什么优劣?

  4. 怎么定义前缀索引的长度(区分度较大)?

  5. 前缀索引对索引覆盖的影响?

  6. 倒序索引和hash增列的方法异同点?

答案总结

  1. 字符串加索引有全字段和索引前缀的加法,区分度高的话,前缀会节省空间,区分度不高,会增加回表次数

  2. 全字段的索引在索引树找到数据回表查询,在找到下一条不符合的结束,前缀索引会找到所有的符合前缀的然后回表对比数据正确性

  3. 优点,却分度高的话,节省空间,区分度不高的增加回表次数,并且即使前缀索引是全字段,也会回表对比数据正确性,使索引覆盖时效

  4. 查看数据的区分度

  5. 前缀索引会使索引覆盖失效

  6. 倒序前缀索引需要数据倒置(在主键索引上)可在程序进行),hash方式要增加一列,增加空间,两者都是不支持范围查询,hash的冲突会小一点

mysql> create table SUser(
ID bigint unsigned primary key,
email varchar(64), 
... 
)engine=innodb; 
查询语句
mysql> select f1, f2 from SUser where email='xxx';

索引方式

全量email加索引

mysql> alter table SUser add index index1(email) 

或前缀字符加索引

mysql> alter table SUser add index index2(email(6));

第一个语句创建的 index1 索引里面,包含了每个记录的整个字符串;而第二个语句创建的 index2 索引里面,对于每个记录都是只取前 6 个字节。

存储区别

在这里插入图片描述

执行流程区别

select id,name,email from SUser where email=‘[email protected]’;

index1

这个过程中,只需要回主键索引取一次数据,所以系统认为只扫描了一行。

index2

  • 从 index2 索引树找到满足索引值是’zhangs’的记录,找到的第一个是 ID1;

  • 到主键上查到主键值是 ID1 的行,判断出 email 的值不是’[email protected]’,这行记录丢弃;

  • 取 index2 上刚刚查到的位置的下一条记录,发现仍然是’zhangs’,取出 ID2,再到 ID 索引上取整行然后判断,这次值对了,将这行记录加入结果集;

  • 重复上一步,直到在 idxe2 上取到的值不是’zhangs’时,循环结束。

在这个过程中,要回主键索引取 4 次数据,也就是扫描了 4 行。

在这个过程中,要回主键索引取 4 次数据,也就是扫描了 4 行。通过这个对比,你很容易就可以发现,使用前缀索引后,可能会导致查询语句读数据的次数变多。

但是,对于这个查询语句来说,如果你定义的 index2 不是 email(6) 而是 email(7),也就是说取 email 字段的前 7 个字节来构建索引的话,即满足前缀’zhangss’的记录只有一个,也能够直接查到 ID2,只扫描一行就结束了。全量字符加索引

总结

前缀索引如果区别分较好,可以做到既节省空间又不需要增加太多的查询成本

如果区分度不好,就会增加扫描行数

前缀索引区分度计算

mysql> select count(distinct email) as L from SUser;

然后,依次选取不同长度的前缀来看这个值,比如我们要看一下 4~7 个字节的前缀索引,可以用这个语句:

mysql> select 
 count(distinct left(email,4))as L4,
 count(distinct left(email,5))as L5,
 count(distinct left(email,6))as L6,
 count(distinct left(email,7))as L7,
from SUser;

当然,使用前缀索引很可能会损失区分度,所以你需要预先设定一个可以接受的损失比例,比如 5%。然后,在返回的 L4~L7 中,找出不小于 L * 95% 的值,假设这里 L6、L7 都满足,你就可以选择前缀长度为 6。

前缀索引对覆盖索引的影响

前缀索引区分度不好的话可能增加回表扫描行数

前缀索引区使索引覆盖失效,回表验证数据

其实,前缀索引的影响不止如此,我们再看一下另外一个场景。你先来看看这个 SQL 语句:

select id,email from SUser where [email='[email protected]';](mailto:email='[email protected]';)

与前面例子中的 SQL 语句

select id,name,email from SUser where email='[email protected]';

相比,这个语句只要求返回 id 和 email 字段。

所以,如果使用 index1(即 email 整个字符串的索引结构)的话,可以利用覆盖索引,从 index1 查到结果后直接就返回了,不需要回到 ID 索引再去查一次。而如果使用 index2(即 email(6) 索引结构)的话,就不得不回到 ID 索引再去判断 email 字段的值。

即使你将 index2 的定义修改为 email(18) 的前缀索引,这时候虽然 index2 已经包含了所有的信息,但 InnoDB 还是要回到 id 索引再查一下,因为系统并不确定前缀索引的定义是否截断了完整信息。

也就是说,使用前缀索引就用不上覆盖索引对查询性能的优化了,这也是你在选择是否使用前缀索引时需要考虑的一个因素。

区分度案例分析

对于类似于邮箱这样的字段来说,使用前缀索引的效果可能还不错。但是,遇到前缀的区分度不够好的情况时,我们要怎么办呢?

比如,我们国家的身份证号,一共 18 位,其中前 6 位是地址码,所以同一个县的人的身份证号前 6 位一般会是相同的

假设你维护的数据库是一个市的公民信息系统,这时候如果对身份证号做长度为 6 的前缀索引的话,这个索引的区分度就非常低了。

按照我们前面说的方法,可能你需要创建长度为 12 以上的前缀索引,才能够满足区分度要求。但是,索引选取的越长,占用的磁盘空间就越大,相同的数据页能放下的索引值就越少,搜索的效率也就会越低。

那么,如果我们能够确定业务需求里面只有按照身份证进行等值查询的需求,还有没有别的处理方法呢?这种方法,既可以占用更小的空间,也能达到相同的查询效率。

第一种方式是使用倒序存储

如果你存储身份证号的时候把它倒过来存,每次查询的时候,你可以这么写:

mysql> select field_list from t where id_card = reverse('input_id_card_string');

由于身份证号的最后 6 位没有地址码这样的重复逻辑,所以最后这 6 位很可能就提供了足够的区分度。当然了,实践中你不要忘记使用 count(distinct) 方法去做个验证

第二种方式是使用 hash 字段

你可以在表上再创建一个整数字段,来保存身份证的校验码,同时在这个字段上创建索引。

mysql> alter table t add id_card_crc int unsigned, add index(id_card_crc);

然后每次插入新记录的时候,都同时用 crc32() 这个函数得到校验码填到这个新字段。由于校验码可能存在冲突,也就是说两个不同的身份证号通过 crc32() 函数得到的结果可能是相同的,所以你的查询语句 where 部分要判断 id_card 的值是否精确相同。

这样,索引的长度变成了 4 个字节,比原来小了很多

倒序和hash的异同点

都不支持范围查询

它们的区别,主要体现在以下三个方面:

从占用的额外空间来看,倒序存储方式在主键索引上,不会消耗额外的存储空间,而 hash 字段方法需要增加一个字段。当然,倒序存储方式使用 4 个字节的前缀长度应该是不够的,如果再长一点,这个消耗跟额外这个 hash 字段也差不多抵消了。

在 CPU 消耗方面,倒序方式每次写和读的时候,都需要额外调用一次 reverse 函数,而 hash 字段的方式需要额外调用一次 crc32() 函数。如果只从这两个函数的计算复杂度来看的话,reverse 函数额外消耗的 CPU 资源会更小些。

从查询效率上看,使用 hash 字段方式的查询性能相对更稳定一些。因为 crc32 算出来的值虽然有冲突的概率,但是概率非常小,可以认为每次查询的平均扫描行数接近 1。而倒序存储方式毕竟还是用的前缀索引的方式,也就是说还是会增加扫描行数。

发布了48 篇原创文章 · 获赞 31 · 访问量 4559

猜你喜欢

转载自blog.csdn.net/qq_39787367/article/details/103823930