MySQL常用命令与内部组件及SQL优化详情

1. 一些常用的 MySQL 命令

#连接MySQL
mysql -h 127.0.0.1 -u UserName -p  pwd -P 3306
#创建新用户
CREATE USER 'username'@'host' IDENTIFIED BY 'password';
#赋权限,%表示所有(host)：
grant all privileges on *.* to 'username'@'%';
#修改密码
update user set password=password("123456") where user='root';
#查看当前用户的权限
show grants for root@"%";
#显示所有数据库
show databases; 
#打开数据库
use dbname； 
#查看库中有哪些表
show tables
#显示表mysql数据库中user表的列信息）
describe user
#查看连接（包括用户、正在执行的操作、状态等）
show processlist 
#刷新连接
flush privileges
#关闭某连接
kill id
#查询库中所有的表
select * from information_schema.tables where table_schema='zhebase';
#查询表信息（字段，字段类型，是否为空，编码，备注等）
select * from information_schema.columns where table_schema='zhebase' and table_name='student_inndb';
#查看MySQL权限 Host列表示那个Ip可以连接，User表示用户，后面的字段是权限
select * from mysql.user;
#查看全局服务器关闭非交互连接之前等待活动的秒数
show global variables like "wait_timeout";
#设置全局服务器关闭非交互连接之前等待活动的秒数（默认8小时不发送命令自动断连）
set global wait_timeout=28800; 

开发当中我们大多数时候用的都是长连接，把连接放在 Pool 内进行管理，但是长连接有时候会导致 MySQL 占用内存飙升，这是因为 MySQL 在执行过程中临时使用的内存是管理在连接对象里面的。这些资源会在连接断开的时候才释放。所以如果长连接累积下来，可能导致内存占用太大，被系统强行杀掉（OOM)，从现象看就是 MySQL 异常重启了。 怎么解决这类问题呢？  1、定期断开长连接。 使用一段时间，或者程序里面判断执行过一个占用内存的大查询后，断开连接，之后要查询再重连。  2、如果你用的是 MySQL 5.7 或更新版本，可以在每次执行一个比较大的操作后，通过执行 mysql_reset_connection 来重新初始化连接资源。 这个过程不需要重连和重新做权限验证，但是会将连接恢复到刚刚创建完时的状态。

为什么说MySQL查询缓存是否鸡肋？

• 使用场景极少，表一改动就需要重新维护
• innodb，MyISAM 等引擎层有 buffer_pool 会自动缓存查询频繁的数据
• 可以使用第三方中间件代替
• LRU淘汰策略

#my.cnf配置文件中，一般将my.cnf参数 query_cache_type 设置成 DEMAND
query_cache_type有3个值 0代表关闭查询缓存OFF，1代表开启ON，2（DEMAND）代表当sql语句中有SQL_CACHE 关键词时才缓存

2.MySQL的内部组件结构

 连接MySQL的过程：

• 1.完成经典的 TCP 握手建立连接
• 2.验证用户登录用户名密码
• 3.验证连接权限，是否运行该Ip连接（User表中的Host字段）
• 4.开辟专属 session 空间，连接后默认长连接，无操作8小时有效
• 5.将user表权限加入专属空间
• 6.每次执行命令在专属空间中查找是否有权限进行操作（权限修改后，如不重新连接，权限仍然不会改变，即使刷新连接也是如此)

MySQL优化器与执行计划

工作过程：

• 1.词法分析、语法分析、语义检查
• 2.预处理阶段(查询重写等)
• 3.查询优化阶段(可详细划分为逻辑优化、物理优化两部分)
• 4.查询优化器优化依据，来自于代价估算器估算结果(它会调用统计信息作为计算依据)
• 5.交由执行器执行

SQL执行过程

• 1.客户端提交一条语句
• 2.先在查询缓存（相当于一个Map，SQL语句是Key，结果集是Map）查看是否存在对应的缓存数据，如有则直接返回(一般有的可能性极小，因此一般建议关闭查询缓存)。MySQL 8.0开始取消了缓存器，5.0 默认关闭
• 3.交给解析器处理，解析器会将提交的语句生成一个解析树。
• 4.预处理器会处理解析树，形成新的解析树。这一阶段存在一些SQL改写的过程。
• 5.改写后的解析树提交给查询优化器。查询优化器生成执行计划。
• 6.执行计划交由执行引擎调用存储引擎接口，完成执行过程。这里要注意，MySQL的Server层和Engine层是分离的。
• 7.最终的结果由执行引擎返回给客户端，如果开启查询缓存的话，则会缓存

词法分析器原理

词法分析器分成6个主要步骤完成对sql语句的分析  1、词法分析  2、语法分析  3、语义分析  4、构造执行树  5、生成执行计划  6、计划的执行

查询优化器

• 负责生成 SQL 语句的有效执行计划的数据库组件
• 优化器是数据库的核心价值所在，它是数据库的“大脑”
• 优化SQL，某种意义上就是理解优化器的行为
• 优化的依据是执行成本（CBO）
• 优化器工作的前提是了解数据，工作的目的是解析SQL，生成执行计划
• 只要有WHERE的地方就会用到查询优化器，并非SELECT独有

举例：

Select  EMPLOYEE.Name , WELFARE.Bonus From  EMPLOYEE , WELFARE  Where  EMPLOYEE.Seniority > 5  And  EMPLOYEE.Seniority = WELFARE.Seniority ;
Select  EMPLOYEE.Name , WELFARE.Bonus From  EMPLOYEE , WELFARE  Where  EMPLOYEE.Seniority > 5  And  EMPLOYEE.Seniority = WELFARE.Seniority   And  EMPLOYEE.Seniority > 5;

查询重写： 因为第一条将EMPLOYEE中Seniority > 5 的行与 WELFARE 中的所有行作外连接再来找 Seniority 相等的行，而第二条则是将 EMPLOYEE 中 Seniority > 5 的行和 WELFARE 中 Seniority > 5 的行作外连接再来找 Seniority 相等的行，第二条语句只有更少的行参与外连接，效率更高。写 SQL 时查询优化器自动重写。

4. SQL执行顺序

(7) SELECT (8) DISTINCT <select_list>
(1) FROM <left_table>
(3) <join_type> JOIN <right_table>
(2) ON <join_condition>
(4) WHERE <where_condition>
(5) GROUP <group_by_list>
(6) HAVING <having_condition>
(9) ORDER BY <order_by_list>
(10) LIMIT <limit_number>

5.MySQL数据类型选择

在设计表时，选择数据类型时一般先确定大的类型（数字，字符串，时间，二进制），然后再根据有无符号、取值范围、是否定长等确定具体的数据类型。在设计时，尽量使用更小的数据类型以达到更优的性能。并且在定义时尽量使用 NOT NULL，避免 NULL 值。

数值类型

首先了解：

• 1 byte = 8 bit (1字节等于8位，当需要符号时，符号占用1位)
• float 的指数位有8位，尾数位有23位，符号位 1 位，float 的指数范围，为 -127~+128，按补码的形式来划分。有效位数 7 位
• double 有效位数 15 位
• 对DECIMAL(M,D) ，如果 M>D，为 M+2 否则为 D+2 字节

建议：

• 如果整型数据没有负数，如ID号，建议指定为UNSIGNED无符号类型，容量可以扩大一倍。
• 建议使用TINYINT代替ENUM、BITENUM、SET。
• 避免使用整数的显示宽度，不要用INT(10)类似的方法指定字段显示宽度，直接用 INT。使用显示宽度后会不足自动填充0，但对查询无影响，查询结果不会自动填充0。
• DECIMAL最适合保存准确度要求高，而且用于计算的数据，比如价格。但是在使用DECIMAL类型的时候，注意长度设置。
• 建议使用整型类型来运算和存储实数。
• 整数通常是最佳的数据类型，因为它速度快，并且能使用AUTO_INCREMENT。

日期和时间

 建议：

• MySQL 能存储的最小时间粒度为秒。
• 建议用 DATE 数据类型来保存日期。MySQL 中默认的日期格式是 yyyy-MM-dd。
• 用 MySQL 的内时间类型 DATE、TIME、DATETIME 来存储时间，而不是使用字符串。
• 当数据格式为 TIMESTAMP 和 DATETIME 时，可以用 CURRENT_TIMESTAMP 作为默认（MySQL5.6以后）， MySQL 会自动返回记录插入的确切时间。
• TIMESTAMP 是 UTC 时间戳，与时区相关。
• DATETIME 的存储格式是一个 YYYYMMDD HH:MM:SS 的整数，与时区无关。
• 除非有特殊需求，一般的公司建议使用 TIMESTAMP，比DATETIME更节约空间，大公司使用DATETIME，因为要用考虑 TIMESTAMP 将来的时间上限（1970-2037）问题。
• 不要使用 Unix 的时间戳保存为整数值，处理起来极其不方便。

字符串

建议

• 字符串的长度相差较大用 VARCHAR；字符串短，且所有值都接近一个长度用 CHAR。
• CHAR 和 VARCHAR 适用于包括人名、邮政编码、电话号码和不超过255个字符长度的任意字母数字组合。那些 要用来计算的数字不要用 VARCHAR 类型保存，因为可能会导致一些与计算相关的问题。换句话说，可能影响到计算的准确性和完整性。
• 尽量少用 BLOB 和 TEXT，如果实在要用可以考虑将 BLOB 和 TEXT 字段单独存一张表，用 id 关联。
• BLOB 系列存储二进制字符串，与字符集无关。TEXT 系列存储非二进制字符串，与字符集相关。
• BLOB 和 TEXT 都不能有默认值。

6.MySQL优化

MySQL优化分类

• 减少磁盘IO 全表扫描 临时表 日志、数据块 fsync
• 减少网络带宽 返回数据过多 交互次数过多
• 降低CPU消耗 排序分组：order by, group by 聚合函数：max,min,count,sum.. 逻辑读

优化方法

• 创建索引减少扫描量
• 调整索引减少计算量
• 索引覆盖（减少不必访问的列，避免回表查询）
• SQL改写
• 干预执行计划

SQL优化原则

减少访问量： 数据存取是数据库系统最核心功能，所以 IO 是数据库系统中最容易出现性能瓶颈，减少 SQL 访问 IO 量是 SQL 优化的第一步；数据块的逻辑读也是产生CPU开销的因素之一。

• 减少访问量的方法：创建合适的索引、减少不必访问的列、使用索引覆盖、语句改写。

减少计算操作： 计算操作进行优化也是SQL优化的重要方向。SQL 中排序、分组、多表连接操作等计算操作都是十分消耗 CPU 的。

• 减少 SQL 计算操作的方法：排序列加入索引、适当的列冗余、SQL 拆分、计算功能拆分。

EXPLAIN 查看执行计

 type列，连接类型。一个好的SQL语句至少要达到range级别。杜绝出现all级别。

• 1. system：表只有一行记录，const类型的特例，基本不会出现，可以忽略
• 2. const：通过索引一次就查询出来了，const用于比较primary key或者unique索引。只需匹配一行数据，所有很快。如果将主键置于where列表中，mysql就能将该查询转换为一个const
• 3. eq_ref：唯一性索引扫描，对于每个索引键，表中只有一条记录与之匹配。常见于主键 或 唯一索引扫描。
• 4. ref：非唯一性索引扫描，返回匹配某个单独值的所有行。本质是也是一种索引访问，它返回所有匹配某个单独值的行，然而他可能会找到多个符合条件的行，所以它应该属于查找和扫描的混合体。
• 5. range：只检索给定范围的行，使用一个索引来选择行。key列显示使用了那个索引。一般就是在where语句中出现了bettween、<、>、in等的查询。这种索引列上的范围扫描比全索引扫描要好。只需要开始于某个点，结束于另一个点，不用扫描全部索引
• 6. index：Full Index    Scan，index与ALL区别为index类型只遍历索引树。这通常为ALL块，应为索引文件通常比数据文件小。（Index与ALL虽然都是读全表，但index是从索引中读取，而ALL是从硬盘读取）
• 7. all：Full Table Scan，遍历全表以找到匹配的行

key列，使用到的索引名。如果没有选择索引，值是NULL。 key_len列，索引长度。 rows列，扫描行数。该值是预估值。 extra列，详细说明。注意，常见的不太友好的值，如下：Using filesort，Using temporary。

processlist干预执行计划

• show [full] processlist
• information_schema.processlist copy to tmp table： 出现在某些alter table语句的copy table操作 Copying to tmp table on disk： 由于临时结果集大于tmp_table_size，正在将临时表从内存存储转为磁盘存储以此节省内存 converting HEAP to MyISAM： 线程正在转换内部MEMORY临时表到磁盘MyISAM临 时表 Creating sort index： 正在使用内部临时表处理select查询 Sorting index： 磁盘排序操作的一个过程 Sending data ： 正在处理SELECT查询的记录，同时正在把结果发送给客户端 Waiting for table metadata lock: 等待元数据锁

SELECT语句务必指明字段名称

SELECT * 增加很多不必要的消耗（CPU、IO、内存、网络带宽） 直接使用select字段名称还增加了使用覆盖索引的可能性

• 如果排序字段没有用到索引，就尽量少排序
• 分页时要选择合理的方式

select id,name from customer limit 100000, 10 //查询从十万条开始的20条数据

上述代码，随着分页的后移，效率越来越慢，优化方法如下：可以取上一页的最大行数的 id（前提是ID 递增，且非联合主键，一般不建议设置联合主键，主键前面都可以加上ID作为主键），然后根据这个最大的 ID 来限制下一页的起点。或者通过索引查 id，在通过id查询出数据

合理使用in和exits

select * from A where id in (select id from B)
select * from A where exists(select id from B where id=A.id)

in先执行子查询再执行主查询，exits先执行主查询再执行子查询。如果子查询得出的结果集记录较少，主查询中的表较大且又有索引时应该用in反之如果外层的主查询记录较少，子查询中的表大，又有索引时使用exists

原则：小表驱动大表

关于not in 和not exists

如果查询语句使用了 not in 那么内外表都会放弃索引进行全表扫描；而 not extsts 的子查询依然能用到表上的索引。所以 not exists 都比 not in 要快。也可以使用一些方法转换逻辑来进行优化

//原SQL语句：
select name from A where A.id not in (select B.id from B)
//优化后的SQL语句：
select name from A Left join B on where A.id = A.id where B.id is null

order by排序字段和where条件要匹配（关于联合索引）

当 where 条件和 order by 排序字段不匹配时，即使where条件中用到了索引，但执行 order by 时仍然会进行全表扫描（索引只能生效一个，且遵循最左匹配原则）;order by后的索引生效时（索引本质是倒排表）效率会得到极大的提升。

select a,b,c from customer where a = 'xxx' and b = 'xxx' order by c;

• 1.最左前缀匹配原则：在MySQL建立联合索引时会遵守最左前缀匹配原则，即最左优先，在检索数据时从联合索引的最左边
• 开始匹配。
• 2.当a,b,c为联合索引时遵循最左匹配原则，即：a,ab,abc索引都会生效,但b,c,bc,ac等不会生效（执行计划会使用到，
• type列为index，扫描索引树，效率相对于最左匹配的索引效率极低），所以定要注意索引顺序，最常用的最段要放在最前面。
• 3.例如，创建一个a,b联合索引，它的索引树图如下。由图可以看出a值是有序的（1，1，2，2，3，3），b值是无序的，但是在a值相等的情况下b值又是有序的。由此可以看出MySQL创建联合索引时首先会对联合索引的最左边第一个字段排序，在第一个字段的排序基础上，然后在对第二个字段进行排序。所以b单独作为条件时，索引是无效的。
• 4.当a,b,c三个索引都用到时，只有全匹配，无论顺序如何，索引是有效的，MySQL执行计划会对其进行优化，自动使用最优方案执行。

不建议使用%前缀模糊查询

使用like '%name%'或者like '%name'会导致索引失效而导致全表扫描。但使用like 'name%'不会。

解决方法：

• - 1.使用全文索引 
• - 2.使用Elasticsearch等搜索工具（不怎么修改的字段才建议使用，实际是倒排索引）

注意：  1.全文索引的存储引擎一定是Myisam,InnoDB没有全文索引  2.全文索引对中文不太友好

//创建全文索引
ALTER TABLE cust ADD FULLTEXT INDEX idx_cust_address ('cust_address');
//使用全文索引
select name from cust where match(cust_address) against('湖南');

倒排索引是一种索引数据结构：从文本数据内容中提取出不重复的单词进行分词，每1个单词对应1个ID对单词进行区分，还对应1个该单词在那些文档中出现的列表 把这些信息组建成索引。倒排索引还记录了该单词在文档中出现位置、频率（次数/TF）用于快速定位文档和对搜素结果进行排序。

关于范围查询

对于联合索引来说，如果存在范围查询，比如between、>、<等条件时，会造成后面的索引字段失效

避免在where子句中对字段进行null值判断及!=和<>

对于null的判断以及!=和<>会导致引擎放弃使用索引而进行全表扫描。

关于OR

尽量使用union all或者是union方式来代替or。  union和union all的区别主要是union需要将结果集合并后再进行过滤操作过滤掉重复数据，这就会涉及到排序，增加大量的CPU运算，加大资源消耗及延迟。使用union all的前提条件是两个结果集没有重复数据。

只需要一条数据的时候，使用limit 1

可以使EXPLAIN中type列达到const类型

分段查询

在一些用户选择页面中，可能一些用户选择的时间范围过大，造成查询缓慢。主要的原因是扫描行数过多。这个时候可以通过程序，分段进行查询，循环遍历，将结果合并处理进行展示。

避免在where子句中对字段进行表达式及函数操作

应避免在where子句中对字段进行函数等操作，这将导致引擎放弃使用索引而进行全表扫描。

//原SQL
select id,name from customer where salary/2 > 5000;
//优化后
select id,name from customer where salary > 5000*2;

尽量使用 inner join，避免 left join

参与联合查询的表至少为2张表，一般都存在大小之分。如果连接方式是inner join，在没有其他过滤条件的情况下,MySQL会自动选择小表作为驱动表，但是left join在驱动表的选择上遵循的是左边驱动右边的原则，即left join左边的表名为驱动表。

IN包含的值不应过多

MySQL对于IN做了相应的优化，即将IN中的常量全部存储在一个数组里面，而且这个数组是排好序的。但是如果数值较多，产生的消耗也是比较大的。再例如：select id from t where num in(1,2,3) 对于连续的数值，能用between就不要用in了。或者使用连接来替换。

关于索引

• 对查询进行优化，应尽量避免全表扫描，首先应考虑在 where 及 order by 涉及的列上建立索引。
• 并不是所有索引对查询都有效，SQL是根据表中数据来进行查询优化的。当数据列差不多时（如男、女等）索引也无法优化查询效率。
• 索引并不是越多越好，经常进行查询的列建议添加索引，但经常进行修改的列不建议添加索引。在增删改操作会对索引进行维护，降低执行效率，且索引需要占用数据库资源

到此这篇关于MySQL常用命令与内部组件及SQL优化详情的文章就介绍到这了,更多相关MySQL优化内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！