文章目录
参考资料前言1. 存储引擎1.1 简介1.2 特点1.2.1 InnoDB1.2.2 MyISAM1.2.3 Memory1.2.4 小结 1.3 存储引擎选择1.4 总结 2. 索引2.1 索引概述2.2 索引结构2.2.1 复习：二叉树2.2.2 复习：B-Tree（多路平衡查找树）2.2.3 复习：B+Tree2.2.4 复习：Hash2.2.5 思考 2.3 索引分类2.3.1 思考 2.4 索引语法2.4.1 案例 2.5 SQL性能分析2.5.1 SQL执行频率2.5.2 慢查询日志2.5.3 profile详情2.5.4 explain执行计划 2.6 索引使用2.6.1 验证索引效率示例2.6.2 最左前缀法则2.6.3 范围查询2.6.4 索引列运算2.6.5 字符串不加引号2.6.6 模糊查询2.6.7 or连接的条件2.6.8 数据分布影响2.6.9 SQL提示2.6.10 覆盖索引2.6.11 前缀索引2.6.12 单列索引与联合索引 2.7 索引设计原则参考资料
/video/BV1Kr4y1i7ru?p=58
前言
连接层最上层是一些客户端和链接服务，主要完成一些类似于连接处理、授权认证、及相关的安全方案。服务器也会为安全接入的每个客户
端验证它所具有的操作权限。服务层
第二层架构主要完成大多数的核心服务功能，如SQL接口，并完成缓存的查询，SQL的分析和优化，部分内置函数的执行。所有跨存
储引擎的功能也在这一层实现，如 过程、函数等。引擎层
存储引擎真正的负责了MySQL中数据的存储和提取，服务器通过API和存储引擎进行通信。不同的存储引擎具有不同的功能，这样我
们可以根据自己的需要，来选取合适的存储引擎。存储层
主要是将数据存储在文件系统之上，并完成与存储引擎的交互
1. 存储引擎
1.1 简介
存储引擎就是存储数据、建立索引、更新/查询数据等技术的实现方式 。存储引擎是基于表的，而不是基于库的，所以存储引擎也可被称为表类型。
在创建表时，指定存储引擎
CREATE TABLE 表名(字段1 字段1类型[COMMENT 字段1注释]。字段n 字段n类型[COMMENT 字段n注释]) ENGINE = INNODB [COMMENT 表注释];
查看当前数据库支持的存储引擎
SHOW ENGINES;
1.2 特点
1.2.1 InnoDB
介绍
InnoDB是一种兼顾高可靠性和高性能的通用存储引Y,在MySQL 5.5之后,InnoDB是默认的MySQL存储引擎。
特点
DML操作遵循ACID模型,支持事务;行级锁,提高并发访问性能;支持外键FOREIGN KEY约束,保证数据的完整性和正确性;
文件
xxx.ibd: xxx代表的是表名,innoDB引Y的每张表都会对应这样一个表空间文件,存储该表的表结构(frm, sdi)、数据和索引。
参数: innodb_file_per_table
查看方式：命令行输入ibd2sdi xxx.ibd
逻辑存储结构
表空间–>段–>区–>页，页是最小存储单元。
1.2.2 MyISAM
介绍
MylSAM是MySQL早期的默认存储引擎。
特点
不支持事务,不支持外键支持表锁,不支持行锁访问速度快
文件
xxx.sdi:存储表结构信息
XXX.MYD:存储数据
xxX.MYI:存储索引
1.2.3 Memory
介绍Memory引擎的表数据时存储在内存中的，由于受到硬件问题、或断电问题的影响，只能将这些表作为临时表或缓存使用。特点 内存存放hash索引（默认） 文件
xxx.sdi：存储表结构信息
1.2.4 小结
1.3 存储引擎选择
在选择存储引擎时，应该根据应用系统的特点选择合适的存储引擎。对于复杂的应用系统，还可以根据实际情况选择多种存储引擎进行组
合。
InnoDB : 是Mysql的默认存储引擎，支持事务、外键。如果应用对事务的完整性有比较高的要求，在并发条件下要求数据的一致性，数据操作除了插入和查询之外，还包含很多的更新、删除操作，那么InnoDB存储引擎是比较合适的选择。MyISAM ： 如果应用是以读操作和插入操作为主，只有很少的更新和删除操作，并且对事务的完整性、并发性要求不是很高，那么选择这个存储引擎是非常合适的。MEMORY：将所有数据保存在内存中，访问速度快，通常用于临时表及缓存。MEMORY的缺陷就是对表的大小有限制，太大的表无法缓存在内存中，而且无法保障数据的安全性。
1.4 总结
2. 索引
2.1 索引概述
索引(index)是帮助MySQL高效获取数据的数据结构(有序)。在数据之外,数据库系统还维护着满足特定查找算法的数据结构,这些数据结构以某种方式引用(指向)数据,这样就可以在这些数据结构上实现高级查找算法,这种数据结构就是索引。
无索引情况下会全表扫描符合的条件，有索引情况下会根据某个索引结构取匹配查找。
备注：上述二叉树索引结构的只是一个示意图，并不是真实的索引结构。
优缺点
2.2 索引结构
MySQL的索引是在存储引擎层实现的,不同的存储引擎有不同的结构,主要包含以下几种:
平常所说的索引，如果没有特别指明，都是指B+树结构组织的索引
2.2.1 复习：二叉树
二叉树缺点：顺序插入时，会形成一个链表，查询性能大大降低。 大数据量情况下，层级较深，检索速度慢。红黑树：大数据量情况下，层级较深，检索速度慢。2.2.2 复习：B-Tree（多路平衡查找树）
以一颗最大度数（max-degree）为5(5阶)的b-tree为例(每个节点最多存储4个key，5个指针)：
树的度数指的是一个节点的子节点个数
插入 100 65 169 368 900 556 780 35 215 1200 234 888 158 90 1000 88 120 268 250 数据为例
具体动态变化的过程可以参考网站：https://www.cs.usfca.edu/~galles/visualization/BTree.html
2.2.3 复习：B+Tree
以一颗最大度数（max-degree）为4（4阶）的b+tree为例：
相对于B-Tree区别:
所有的数据都会出现在叶子节点，非叶子节点起索引的作用叶子节点形成一个单向链表
MySQL索引数据结构对经典的B+Tree进行了优化。在原B+Tree的基础上，增加一个指向相邻叶子节点的链表指针，就形成了带有顺
序指针的B+Tree，提高区间访问的性能。
2.2.4 复习：Hash
哈希索引就是采用一定的hash算法，将键值换算成新的hash值，映射到对应的槽位上，然后存储在hash表中。如果两个(或多个)键值，映射到一个相同的槽位上，他们就产生了hash冲突（也称为hash碰撞），可以通过链表来解决。
Hash索引特点
Hash索引只能用于对等比较(=， in)，不支持范围查询（between， >， < ， ...）无法利用索引完成排序操作查询效率高，通常只需要一次检索就可以了，效率通常要高于B+tree索引
存储引擎支持
在MySQL中，支持hash索引的是Memory引擎，而InnoDB中具有自适应hash功能，hash索引是存储引擎根据B+Tree索引在指定条件下自动构建的。
2.2.5 思考
为什么InnoDB存储引擎选择使用B+tree索引结构?
相对于二叉树，层级更少，搜索效率高；对于B-tree，无论是叶子节点还是非叶子节点，都会保存数据，这样导致一页中存储的键值减少，指针跟着减少，要同样保存大量数据，只能增加树的高度，导致性能降低；相对Hash索引，B+tree支持范围匹配及排序操作；
2.3 索引分类
在InnoDB存储引擎中，根据索引的存储形式，又可以分为以下两种：聚集索引选取规则: 如果存在主键，主键索引就是聚集索引。如果不存在主键，将使用第一个唯一（UNIQUE）索引作为聚集索引。如果表没有主键，或没有合适的唯一索引，则InnoDB会自动生成一个rowid作为隐藏的聚集索引。
回表查询：先根据二级索引查找主键值，然后在聚集索引下查找主键值对应的row数据。
2.3.1 思考
以下SQL语句,那个执行效率高?为什么?
答：显然第一条。直接在聚集索引中查。
InnoDB主键索引的B+tree高度为多高呢?
假设:
一行数据大小为1k,一页中可以存储16行这样的数据。InnoDB的指针占用6个字节的空间,主键即使为bigint,占用字节数为8。高度为2:
n*8+ (n + 1) * 6=16*1024 ,算出n约为1170
1171* 16 = 18736高度为3:
1171 * 1171 *16=21939856
指针比key多一个。
2.4 索引语法
创建索引
CREATE [UNIQUE | FULLTEXT ] INDEX index_name ON table_name ( index_col_name....);
查看索引
SHOW INDEX FROM table_name;
删除索引
DROP INDEX index_name ON table_name;
2.4.1 案例
表数据为如下：
create table tb_user(id int primary key auto_increment comment '主键',name varchar(50) not null comment '用户名',phone varchar(11) not null comment '手机号',email varchar(100) comment '邮箱',profession varchar(11) comment '专业',age tinyint unsigned comment '年龄',gender char(1) comment '性别 , 1: 男, 2: 女',status char(1) comment '状态',createtime datetime comment '创建时间') comment '系统用户表';INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('吕布', '17799990000', 'lvbu666@', '软件工程', 23, '1', '6', '2001-02-02 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('曹操', '17799990001', 'caocao666@', '通讯工程', 33, '1', '0', '2001-03-05 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('赵云', '17799990002', '17799990@', '英语', 34, '1', '2', '2002-03-02 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('孙悟空', '17799990003', '17799990@', '工程造价', 54, '1', '0', '2001-07-02 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('花木兰', '17799990004', '19980729@', '软件工程', 23, '2', '1', '2001-04-22 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('大乔', '17799990005', 'daqiao666@', '舞蹈', 22, '2', '0', '2001-02-07 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('露娜', '17799990006', 'luna_love@', '应用数学', 24, '2', '0', '2001-02-08 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('程咬金', '17799990007', 'chengyaojin@', '化工', 38, '1', '5', '2001-05-23 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('项羽', '17799990008', 'xiaoyu666@', '金属材料', 43, '1', '0', '2001-09-18 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('白起', '17799990009', 'baiqi666@', '机械工程及其自动化', 27, '1', '2', '2001-08-16 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('韩信', '17799990010', 'hanxin520@', '无机非金属材料工程', 27, '1', '0', '2001-06-12 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('荆轲', '17799990011', 'jingke123@', '会计', 29, '1', '0', '2001-05-11 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('兰陵王', '17799990012', 'lanlinwang666@', '工程造价', 44, '1', '1', '2001-04-09 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('狂铁', '17799990013', 'kuangtie@', '应用数学', 43, '1', '2', '2001-04-10 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('貂蝉', '17799990014', '84958948374@', '软件工程', 40, '2', '3', '2001-02-12 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('妲己', '17799990015', '2783238293@', '软件工程', 31, '2', '0', '2001-01-30 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('芈月', '17799990016', 'xiaomin2001@', '工业经济', 35, '2', '0', '2000-05-03 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('嬴政', '17799990017', '8839434342@', '化工', 38, '1', '1', '2001-08-08 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('狄仁杰', '17799990018', 'jujiamlm8166@', '国际贸易', 30, '1', '0', '-03-12 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('安琪拉', '17799990019', 'jdodm1h@', '城市规划', 51, '2', '0', '2001-08-15 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('典韦', '17799990020', 'ycaunanjian@', '城市规划', 52, '1', '2', '2000-04-12 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('廉颇', '17799990021', 'lianpo321@', '土木工程', 19, '1', '3', '2002-07-18 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('后羿', '17799990022', 'altycj2000@', '城市园林', 20, '1', '0', '2002-03-10 00:00:00');INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('姜子牙', '17799990023', '37483844@', '工程造价', 29, '1', '4', '-05-26 00:00:00');
按照下列的需求，完成索引的创建
name字段为姓名字段,该字段的值可能会重复,为该字段创建索引。
phone手机号字段的值,是非空,且唯一的,为该字段创建唯一索引。
为profession, age, status创建联合索引。
为email建立合适的索引来提升查询效率。
CREATE INDEX idx_user_name ON tb_user(name);CREATE UNIQUE INDEXidx_user_phone ON tb_user(phone);CREATE INDEX idx_user_pro_age_sta ON tb_user(profession,age,status);CREATE INDEX idx_email ON tb_user(email);
2.5 SQL性能分析
2.5.1 SQL执行频率
MySQL 客户端连接成功后,通过show [session|global] status命令可以提供服务器状态信息。通过如下指令,可以查看当前数据库的INSERT, UPDATE, DELETE, SELECT的访问频次:
SHOW GLOBAL STATUS LIKE 'com_______';
下划线表示模糊匹配，一个下划线代表一个字符
2.5.2 慢查询日志
慢查询日志记录了所有执行时间超过指定参数(long_query_time,单位:秒,默认10秒)的所有SQL语句的日志。
show variables like 'slow_query_log';
MySQL的慢查询日志默认没有开启,需要在MySQL的配置文件(/etc/f)中配置如下信息:
#开启MySQL慢日志查询开关slow_query_log=1#设置慢日志的时间为2秒, SQL语句执行时间超过2秒,就会视为慢查询,记录慢查询日志long_query_time=2
配置完毕之后，通过以下指令重新启动MySQL服务器进行测试，查看慢日志文件中记录的信息/var/lib/mysql/localhost-slow.log。
2.5.3 profile详情
show profiles 能够在做SQL优化时帮助我们了解时间都耗费到哪里去了。通过have_profiling参数，能够看到当前MySQL是否支持profile操作：
SELECT @@have_profiling;
默认profiling是关闭的，可以通过set语句在session/global级别开启profiling：
SET profiling = 1
执行一系列的业务SQL的操作，然后通过如下指令查看指令的执行耗时：
#查看每一条SQL的耗时基本情况show profiles;#查看指定query_id的SQL语句各个阶段的耗时情况show profile for query query_id;#查看指定query_id的SQL语句CPU的使用情况show profile cpu for query query_id;
2.5.4 explain执行计划
EXPLAIN或者DESC命令获取 MySQL 如何执行SELECT语句的信息，包括在SELECT语句执行过程中表如何连接和连接的顺序。
#直接在select语句之前加上关键字explain/ descEXPLAIN SELECT 字段列表 FROM 表名 WHERE条件;
EXPLAIN 执行计划各字段含义:
Id
select查询的序列号,表示查询中执行select子句或者是操作表的顺序(id相同,执行顺序从上到下;id不同,值越大,越先执行)。select_type
表示SELECT的类型,常见的取值有SIMPLE(简单表,即不使用表连接或者子查询)、PRIMARY (主查询,即外层的查询)、UNION (UNION 中的第二个或者后面的查询语句),SUBQUERY (SELECT/WHERE之后包含了子查询)等type
表示连接类型,性能由好到差的连接类型为NULL, system, const, eq_ref, ref, range, index, all.possible_key
显示可能应用在这张表上的索引,一个或多个。Key
实际使用的索引,如果为NULL,则没有使用索引。Key_len
表示索引中使用的字节数,该值为索引字段最大可能长度,并非实际使用长度,在不损失精确性的前提下,长度越短越好。rows
MySQL认为必须要执行查询的行数,在innodb引擎的表中,是一个估计值,可能并不总是准确的。filtered
表示返回结果的行数占需读取行数的百分比, filtered的值越大越好。
2.6 索引使用
2.6.1 验证索引效率示例
在未建立索引之前，执行如下SQL语句，查看SQL的耗时。
SELECT * FROM tb_sku WHERE Sn = '100000003145001';
针对字段创建索引
create index idx_sku_sn on tb_sku(sn);
然后再次执行相同的SQL语句，再次查看SQL的耗时
SELECT * FROM tb_sku WHERE sn = '100000003145001';
事实证明，使用索引后的确能大大加快查询效率。
2.6.2 最左前缀法则
如果索引了多列（联合索引），要遵守最左前缀法则。最左前缀法则指的是查询从索引的最左列开始，并且不跳过索引中的列。如果跳跃某一列， 索引将部分失效(后面的字段索引失效)；如果索引的最左列不存在，则索引失效。示例（相关索引的创建在2.4.1案例中已经创建）
explain select * from tb_user where profession = '件T' and age =31 and status ='0';explain select * from tb_user where profession = '件T' and age=31;explain select * from tb_user where profession = '软件工程';-- profession 为索引的最左列，下面两条因为最左列不存在，所以不会走索引explain select * from tb_user where age = 31 and status = 'O';explain select * from tb_user where status = '0';
注意：只需要索引的最左列存在，查询就会使用索引，跟最左列的位置无关
-- 索引依旧有效，因为只需要最左列存在，跟所放的位置无关。explain select * from tb_user where age =31 and status ='0' and profession = '件T' ;
2.6.3 范围查询
联合索引中，出现范围查询(>,<)， 范围查询右侧的列索引失效。所以尽量使用>=,<=，此时不会失效。示例范围查询右侧的列索引失效
explain select * from tb_user where profession = '件T' and age > 30 and status = '0';
使用>=，索引不会失效
explain select* from tb_user where profession = '件T' and age >= 30 and status = '0';
2.6.4 索引列运算
不要在索引列上进行运算操作， 索引将失效示例索引失效
explain select * from tb_user where substring(phone, 10,2) = '15';
2.6.5 字符串不加引号
字符串类型字段使用时，不加引号， 索引将失效。但是依旧可以查询
示例
-- status =0 索引失效，不走索引explain select * from tb_user where profession = '软件工程' and age =31 and status =0;-- 以下语句可以查询，但是索引失效explain select * from tb_user where phone=17799990015;
2.6.6 模糊查询
如果仅仅是尾部模糊匹配，索引不会失效。如果是头部模糊匹配，索引失效。
示例
explain select * from tb_user where profession like '件%';-- 下面两条语句索引失效explain select * from tb_user where profession like '%工程';explain select * from tb_user where profession like '%T%';
2.6.7 or连接的条件
用or分割开的条件， 如果or前的条件中的列有索引，而后面的列中没有索引，那么涉及的索引都不会被用到。
示例
explain select *from tb_user where id = 10 or age = 23;explain select *from tb_user where phone='17799990017' or age=23;
由于age没有索引，所以即使id、 phone有索引，索引也会失效。所以需要针对于age也要建立索引。
create index idx_user_age on tb_user(age);
再次执行上面两条语句，可以发现已经用到了索引。
2.6.8 数据分布影响
如果MySQL评估得到使用索引比全表更慢，则不使用索引
示例
select *from tb_user where phone >='17799990005';select*from tb_user where phone >= '17799990015';
2.6.9 SQL提示
SQL提示，是优化数据库的一个重要手段，简单来说，就是在SQL语句中加入一些人为的提示来达到优化操作的目的。use index(A)：建议使用索引Aignore index(B)：忽略使用索引Bforce index(C)：强制使用索引C示例-- 创建单列索引create index idx_user_pro on tb_user(profession);explain select * from tb_user use index(idx_user_pro) where profession = '软件工程';explain select* from tb_user ignore index(idx_user_pro) where profession = '软件工程';explain select * from tb_user force index(idx_user_pro) where profession = '软件工程';
2.6.10 覆盖索引
覆盖索引：查询使用了索引,并且需要查询返回的列,在该索引中已经全部能够找到
尽量使用覆盖索引，尽量减少使用select*。
示例
-- 删除不需要的索引便于测试drop index idx_user_pro on tb_user;drop index idx_user_age on tb_user;drop index id_user_name on tb_user;explain select id, profession from tb_user where profession = '软件工程' and age = 31 and status = '0';
explain select * from tb_user where profession = '软件工程' and age = 31 and status = '0';
using index condition:查找使用了索引,但是需要回表查询数据
using where; using index:查找使用了索引,但是需要的数据都在索引列中能找到,所以不需要回表查询数据
回表查询示例
思考
一张表itcast, 有四个字段(id, username, password, status),由于数据量大, 需要对以下SQL语句进行优化, 该如何进行才是最优方案:
select id,username,password from tb_user where username= 'itcast';
优化方案
对username,password建立联合索引，成为2级索引，2级索引的叶子节点为id，所以不需要回表查询。
2.6.11 前缀索引
当字段类型为字符串（varchar， text等）时，有时候需要索引很长的字符串，这会让索引变得很大，查询时，浪费大量的磁盘IO， 影响查询效率。此时可以只将字符串的一部分前缀，建立索引，这样可以大大节约索引空间，从而提高索引效率
语法
create index idx_xxxx on table_name(column(n)):
前缀长度
可以根据索引的选择性来决定，而选择性是指不重复的索引值（基数）和数据表的记录总数的比值，索引选择性越高则查询效率越高， 唯一索引的选择性是1，这是最好的索引选择性，性能也是最好的。
select count(distinct email) / count(*) from tb_user;select count(distinct substring(email,1,5)) / count(*) from tb_user;
示例
创建前缀索引，长度为5
create index idx_user_email_5 on tb_user(email(5));
