mysql日志总结

1. 概述

与大多数关系型数据库，日志文件是MySQL数据库的一个重要组成部分。MySQL有几种不同的日志文件，通常包括错误日志文件，二进制日志，通用日志，慢查询日志，等等。
这些日志能够帮助我们定位mysqld内部发生的事件，数据库性能故障。记录数据的变更历史，用户恢复数据库等等。

2. mysql日志组成

（1）错误日志：记录启动、运行或停止mysqld时出现的问题。
（2）通用日志：记录建立的client连接和运行的语句。
（3）更新日志：记录更改数据的语句。该日志在MySQL 5.1中已不再使用。
（4）二进制日志：记录全部更改数据的语句。还用于复制。
（5）慢查询日志：记录全部运行时间超过long_query_time秒的全部查询或不使用索引的查询。
（6）Innodb日志：innodb redo log
缺省情况下，全部日志创建于mysqld数据文件夹中。
能够通过刷新日志。来强制mysqld来关闭和又一次打开日志文件（或者在某些情况下切换到一个新的日志）。
当你运行一个FLUSH LOGS语句或运行mysqladmin flush-logs或mysqladmin refresh时，则日志被老化。
对于存在MySQL复制的情形下，从复制server将维护很多其它日志文件，被称为接替日志。

3. 通用查询日志

3.1 启动和设置通用查询日志

通用查询日志记录了mysql的所有用户操作，包括启动和关闭服务、执行查询和更新语句等。
mysql服务器默认情况下并没有开启通用查询日志。如果需要通用查询日志，可以通过修改my.ini或my.cnf配置文件来开启。在my.ini或my.cnf的[mysqld]组下加入log选项或者启动mysql时通过–log[=file_name]或-l [file_name]选项启动它。假设没有给定file_name的值， 默认名是host_name.log。通用查询日志将默认存储在mysql数据目录中的hostname.log文件中。hostname是mysql数据库的主机名
my.in中形式如下：

[mysqld]
log[=path/[filename]]

mysqld依照它接收的顺序记录语句到查询日志。这可能与运行的顺序不同。
不同于更新日志和二进制日志，它们在查询运行后。可是不论什么一个锁释放之前记录日志。
查询日志包括全部语句，而二进制日志不包括仅仅查询数据的语句。
server又一次启动和日志刷新不会产生新的一般查询日志文件。

3.2 查看通用查询日志

通用查询日志中记录了用的所有操作。通过查看通用查询日志，可以了解用户对mysql进行的操作。通用查询日志是以文本文件形式存储在文件系统中的，可以使用文本编辑器直接打开通用日志文件进行查看，Windows下可以使用记事本,Linux下可以使用vim、gedit等
使用记事本查看mysql通用查询日志如下：

文件内容如下：

3.3 删除通用查询日志

通用查询日志是以文本文件的形式存储在文件系统中的。通用查询日志记录用户的所有操作，因此在用户查询、更新频繁的情况下，通用查询日志会增长得很快。DBA可以定期删除比较早的通用日志，以节省磁盘空间，可以用直接删除日志文件的方式删除通用查询日志。要重新建立新的日志文件，可使用语句：

mysqladmin -flush logs

或者直接删除日志文件。

3.4 通用查询日志的系统变量

log_output=[none|file|table|file,table] #通用查询日志输出格式
general_log=[on|off] #是否启用通用查询日志
general_log_file[=filename] #通用查询日志位置及名字

4. 二进制日志

二进制日志就是我们经常说的binlog，主要记录mysql数据库的变化。
二进制日志以一种有效的格式，并且是事务安全的方式包含更新日志中可用的所有信息。
二进制日志包含关于每个更新数据库的语句的执行时间信息。他不包含没有修改任何数据的语句，例如select语句
使用二进制日志的最大目的是最大可能地恢复数据库，因为二进制日志包含备份后进行的所有更新.

4.1 启动和设置二进制日志

默认情况下，二进制日志是关闭的，可以通过修改mysql的配置文件来启动和设置二进制日志,my.ini中[mysqld]组下面有几个设置是关于二进制日志的：

log-bin[=PATH/[FILENAME]]
expire_logs_days=10
max_binlog_size=100M

log-bin定义开启二进制日志；path表明日志文件所在的目录路径；
filename指定了日志文件的名称，如文件的全名是filename.0001，filename.0002等，除了上述文件之外，还有一个成为filename.index的文件，文件内容为所有日志的清单，可以使用记事本打开该文件filename.index文件的内容，当前只有一个binlog文件：.\C:\ProgramData\MySQL\MySQL Server 5.7\logs\bin-log.000001
expire_logs_days定义了mysql清除过期日志的时间，即二进制日志自动删除的天数。默认值为0，表示“没有自动删除”。当mysql启动或刷新二进制日志时可能删除该文件
max_binlog_size定义了单个文件的大小限制，如果二进制日志写入的内容大小超出给定值，日志就会发生滚动（关闭当前文件，重新打开一个新的日志文件）。不能将该变量设置为大于1GB或小于4096字节。默认值是1GB，如果正在使用大事务 ，二进制日志文件大小还可能超过max_binlog_size的定义大小。
可以通过SHOW VARIABLES语句来查询日志设置，使用show VARIABLES 语句查看日志设置

可以看到log_bin为ON，max_binlog_size为104857600字节，换算为MB为100MB，MYSQL重新启动之后，就可以看到新产生的文件后缀为.000001和.index的两个文件，文件名称默认为主机名称，我已经在配置文件中指定了文件名，所以不会以默认主机名生成，如下，因为我之前就开启了二进制日志，所以重启后后缀为000002：

4.2 查看二进制日志

mysql二进制日志是经常用到的。当mysql创建二进制日志文件时，首先创建一个以filename为名称，以index为后缀的文件；
再创建一个以filename为名称，以“.000001”为后缀的文件。当mysql服务重新启动一次，以“.000001”为后缀的文件会增加一个，
并且后缀名加1递增；如果日志长度超过了max_binlog_size的上限（默认是1GB）也会创建一个新的日志文件
show binary logs语句可以查看当前二进制日志文件个数和文件名。mysql二进制日志并不能直接查看，如果要查看日志内容，
可以通过mysqlbinlog命令查看,使用show binary logs语句查看二进制日志文件个数和文件名:

可以看到，当前有两个二进制日志文件，因为我把mysql服务重启了一次，日志文件的个数和mysql服务启动的次数相同。每启动一次mysql服务，将会产生一个新的日志文件,使用mysqlbinlog查看二进制日志,mysqlbinlog是一个单独的exe，需要在命令行里执行我们把binlog文件里面的内容导出到binlog.txt

4.3 删除二进制日志

mysql的二进制日志可以配置自动删除，同时mysql也提供了安全的手动删除二进制日志的方法，删除所有的二进制日志文件使用RESET MASTER;

RESET MASTER;

执行该语句，所有二进制日志将被删除，mysql 会重新创建二进制日志，新的日志文件扩展名将重新从000001开始编号，只删除部分二进制日志文件使用PURGE MASTER LOGS;语法如下：

PURGE {MASTER | BINARY} LOGS TO
'log_name'
PURGE {MASTER | BINARY} LOGS BEFORE 'date'

第一种方法指定文件名，执行该命令将删除文件名编号比指定文件名编号小的所有日志文件
第二种方法指定日期，执行该命令将删除指定日期以前的所有日志文件。

4.4 查看二进制日志里的操作记录

使用如下命令：show binlog events;
比如想查看某一个二进制日志里面的记录，但又不想用mysqlbinlog，可以使用show binlog events
比如我想查看’bin-log.000002′这个binlog文件的内容，执行如下命令:

可以看到’bin-log.000002′这个binlog文件记录了哪些SQL命令,如果想知道binlog文件的创建时间，就需要mysqlbinlog工具来查看

4.5 使用二进制日志还原数据库

如果mysql服务器启用了二进制日志，在数据库出现意外丢失数据时，可以使用mysqlbinlog工具从指定的时间点开始（例如，最后一次备份）直到现在，或另外一个指定的时间点的日志中恢复数据,要想从二进制日志恢复数据，需要知道当前二进制日志文件的路径和文件名。一般可以从配置文件（即my.cnf或者my.ini，文件名取决于mysql服务器的操作系统）中找到路径.
mysqlbinlog恢复数据的语法如下：

mysqlbinlog [option] filename |mysql -uuser -ppass

option是一些可选项，filename是日志文件名,比较重要的两对option参数是
–start-datetime、–stop-datetime
–start-position、–stop–position
–start-date、–stop-date可以指定恢复数据库的起始时间点和结束时间点
–start-position、–stop–position可以指定恢复数据的开始位置和结束位置
使用mysqlbinlog恢复mysql数据库到2018年5月25日10：27：48时的状态，执行下面命令

mysqlbinlog --stop-datetime="2018-5-25 10:27:48 " D:\mysql\log\binlog\bin-log.000002 |mysql -u user -p password

该命令执行成功后，会根据binlog.000002日志文件恢复2018年5月25日10：27：48前的所有操作。这种方法对误操作的删除数据比较有效

4.6 暂时停止二进制日志

如果在mysql的配置文件配置启动了二进制日志，mysql会一直记录二进制日志，修改配置文件，可以停止二进制日志，
但是需要重启mysql数据库。mysql提供了暂时停止二进制日志的功能。通过 SET SQL_LOG_BIN 语句可以使mysql暂停或者启动二进制日志

SET sql_log_bin={0|1}

其中0是停止，其实启用

5. 错误日志

错误日志文件包含了当mysqld启动和停止时，以及服务器在运行过程中发生任何严重错误时的相关信息。
在MYSQL中，错误日志也是非常重要的，mysql将启动和停止数据库信息以及一些错误信息记录到错误日志中

5.1 启动和设置错误日志

在默认情况下，错误日志会记录到数据库的数据目录下。如果没有在配置文件中指定文件名，则文件名默认为hostname.err。
例如：mysql所在服务器主机名为mysql-db，记录错误信息的文件名为mysql-db.err。如果执行了FLUSH LOGS，错误日志文件会重新加载
错误日志的启动和停止以及日志文件名，都可以通过修改my.ini（或者my.cnf）来配置。错误日志的配置项是log-error。
在[mysqld]下配置log-error，在启动错误日志。如果需要指定文件名，则配置项如下：

[mysqld]
log-error=[path/[file_name]]

path为日志文件所在的目录路径，filename为日志文件名。修改配置项后，需要重启mysql服务才生效.

5.2 查看错误日志

通过错误日志可以监视系统的运行状态，便于及时发现故障，修复故障。mysql错误日志是以文本文件形式存储的，可以使用文本编辑器直接查看mysql错误日志,如果不知道日志文件的存储路径，可以使用 show variables; 语句查看错误日志的存储路径。
语句如下:

show variables LIKE 'log_error';

5.3 删除错误日志

mysql的错误日志以文本文件的形式存储在文件系统中，可以直接删除,对于mysql5.5.7以前的版本，flush logs可以将错误日志文件重命名为filename.err_old，并创建新的日志文件。但是从mysql5.5.7开始，flush logs只是重新打开日志文件，并不做日志备份和创建的操作。
如果日志文件不存在，mysql启动或者执行flush logs时会创建新的日志文件,在运行状态下删除错误日志文件后，mysql并不会自动创建日志文件。flush logs在重新加载日志的时候，如果文件不存在，则会自动创建。所以在删除错误日志之后，如果需要重建日志文件需要在服务器端执行以下命令：

mysqladmin -u root -p flush-logs

或者在客户端登录mysql数据库，执行flush logs语句

flush logs;

删除err文件，并用flush logs语句重建log-error文件.

6. 慢查询日志

慢查询日志是记录查询时长超过指定时间的日。慢查询日志主要用来记录执行时间较长的查询语句,通过慢查询日志，可以找出执行时间较长、执行效率较低的语句，然后进行优化

6.1 启动和设置慢查询日志

mysql中慢查询日志默认是关闭的，可以通过配置文件my.ini或my.cnf中的log-slow-queries选项打开，也可以在mysql服务启动的时候使用–log–slow-queries[=file_name]启动慢查询日志。启动慢查询日志时，需要在my.ini或者my.cnf文件中配置long_query_time选项指定记录阀值，如果某条查询语句的查询时间超过了这个值，这个查询过程将被记录到慢查询日志
文件中。
在my.ini或者my.cnf文件中开启慢查询日志的配置如下：

slow-query-log=1
slow_query_log_file="DESKTOP-EJUQL8D-slow.log"
long_query_time=10

path为日志文件所在目录路径，filename为日志文件名。如果不指定目录和文件名称，默认存储在数据目录中文件名为hostname-slow.log，hostname是mysql服务器的主机名。参数n是时间值，单位是秒。如果没有设置long-query_time选项，默认时间为10秒

6.2 查看慢查询日志

mysql的慢查询日志是以文本形式存储的，可以直接使用文本编辑器查看。在慢查询日志中，记录着执行时间较长的查询语句，用户可以从慢查询日志中获取执行效率较低的查询语句，为查询优化提供重要的依据,查看慢查询日志的一些参数

show variables like '%slow%';

6.3 删除慢查询日志

和通用查询日志一样，慢查询日志也可以直接删除。删除后在不重启服务器的情况下，需要执行

mysqladmin -u root -p flush logs

重新生成日志文件，或者在客户端登录到服务器执行 flush logs; 语句重建日志文件,官方mysql的慢查询日志在这里有一个缺陷，就是查询阀值只能是1秒或以上，如果要设置一秒以下就无能为力了,这时候如果想找出1秒以下的慢查询SQL，可以使用percona提供的microslow-patch来突破限制，将慢查询时间阀值减小到毫秒级别

7. 总结

平时应打开哪些日志
日志既会影响mysql的性能，又会占用大量磁盘空间。因此，如果不必要，应尽可能少地开启日志。
根据不同的使用环境，考虑开启不同的日志。
例如开发环境中优化查询效率低的语句，可以开启慢查询日志，或者生产环境中发现某些SQL执行特别慢也可以开启
如果磁盘空间不是特充足可以在高峰期间开启，在捕获到查询慢的SQL之后再关闭慢查询日志
如果需要搭建复制环境，那么就一定要开启二进制日志，如果数据特别重要也建议开启二进制日志，以便数据库损坏的时候也可以通过二进制日志
挽救一部分数据
通用日志无论在哪种情况下，一般不建议开启