MySQL常用工具、日志及读写分离

    • 1.MySQL中常用工具
      • 1.1 mysql
        • 1.1.1连接选项
        • 1.1.2 执行选项
      • 1.2 mysqladmin
      • 1.3 mysqlbinlog
      • 1.4 mysqldump
        • 1.4.1 连接选项
        • 1.4.2 输出内容选项
      • 1.5 mysqlimport/source
      • 1.6 mysqlshow
    • 2. MySQL日志
      • 2.1 错误日志
      • 2.2 二进位日志
        • 2.2.1 概述
        • 2.2.2 日志格式
        • 2.2.3 日志读取
        • 2.2.4 日志删除
      • 2.3 查询日志
      • 2.4 慢查询日志
        • 2.4.1 文件位置和格式
        • 2.4.2 日志的读取
    • 3. MySQL复制
      • 3.1 复制概述
      • 3.2 复制原理
      • 3.3 复制优势
      • 3.4 搭建步骤
        • 3.4.1 master
        • 3.4.2 slave
    • 4. 通过AOP记录操作日志
      • 4.1 自定义注解
      • 4.2 性能优化 -分页
        • 4.8.1 优化count

1.MySQL中常用工具

1.1 mysql

该mysql不是值mysql服务,而是指mysql的客户端工具。

语法 :

mysql [options] [database]

1.1.1连接选项

1.1.2 执行选项

-e, --execute=name : 执行sql语句并退出

1.2 mysqladmin

mysqladmin是一个执行管理操作的客户端程序。可以用它来检查伺服器的配置和当前状态、创建并删除资料库等。

可以通过 :mysqladmin --help 指令查看帮助文档。

1.3 mysqlbinlog

由于伺服器生成的二进位日志文件以二进位格式保存,所以如果想要检查这些文本的文本格式,就会使用到mysqlbinlog日志管理工具。

语法 :

1.4 mysqldump

mysqldump客户端工具用来备份资料库或在不同资料库之间进行数据迁移。备份内容包含创建表,及插入表的sql语句。

语法 :

1.4.1 连接选项

1.4.2 输出内容选项

示例 :mysqldump -uroot -p2143 db01 tb_book --add-drop-database --add-drop-table > a.sqlmysqldump -uroot -p2143 -T /tmp test city

1.5 mysqlimport/source

mysqlimport是客户端数据导入工具,用来导入mysqldump 加 -T 参数后导出的文本文件。

语法 :mysqlimport [options] db_name textfilel [textfile2…]示例 :mysqlimport -urrot -p2143 test /tmp/city.txt如果需要导入sql文件,可以使用mysql中的source指令:source /root/tb_book.sql

1.6 mysqlshow

mysqlshow客户端对查找工具,用来很快的查找存在那些资料库、资料库中的表、表中的列或者索引。

语法 :mysqlshow [options] [db_name [table_name] [col_name]]]参数 :–count :显示资料库及表的统计信息(资料库,表均可以不指定)-i :显示指定资料库或者指定表的状态信息示例 :

2. MySQL日志

在任何一种资料库中,都会有各种各样的日志,记录著资料库工作的方方面面,以帮助资料库管理员追踪资料库曾经发生过的各种事件。MySQL也不例外,在MySQL中,有四种不同的日志,分别是错误日志、二进位日志(BINLOG日志)、查询日志和慢查询日志,这些日志记录著资料库在不同方面的踪迹。

2.1 错误日志

错误日志是MySQL中最重要的日志之一,它记录了当MySQL的启动和停止时,以及伺服器在运行过程中发生任何严重错误时的相关信息。当资料库出现任何故障导致无法正常使用时,可以首先查看此日志。

该日志是默认开启的,默认存放目录为mysql的数据目录(var/lib/mysql),默认的日志文件为hostname.err(hostname是主机名)。查看日志位置指令 :show variables like 『log_error%』;

查看日志内容 :

tail -f /var/lib/mysql/xaxh-server.err

2.2 二进位日志

2.2.1 概述

二进位日志(BINLOG)记录了所有的DDL(数据定义语言)语句和DML(数据操作语言)语句,但是不包括数据查询语句。此日志对于灾难时的数据恢复起著极其重要的作用,MySQL的主从复制,就是通过该binlog实现的。

二进位日志,默认情况下是没有开启的,需要MySQL的陪著文件中开启,并配置MySQL日志的格式。配置文件位置 :/usr/my.cnf日志存放位置 :配置时,给定了文件名但是没有指定路径,日志默认写入MySQL的数据目录。配置开始binlog日志,日志的文件前缀为mysqlbin ------》 生成的文件名如 :

mysqlbin.000001,mysqlbin.000002

log_bin=mysqlbin配置二进位日志的格式binlog_format=STATEMENT

2.2.2 日志格式

STATEMENT

该日志格式在日志文件中记录的都是SQL语句(statmeent),每一条对数据进行修改的SQL都会记录在日志文件中,通过MySQL提供的MySQLbinlog工具,可以清晰的查看到每条语句的文本。主从复制的时候,从库(slave)会将日志解析为原文本,并在从库重新执行一次。ROW该日志格式在日志文件中记录的是每一行的数据变更,而不是记录SQL语句。比如,执行SQL语句 :update tb_book set status = 『1』,如果是STATEMENT日志格式,在日志中会记录一行SQL文件;如果是ROW,由于是对全表进行更新,也就是每一行记录都会发生变更,ROW格式的日志中会记录每一行的数据变更。MIXED这是目前MySQL默认的日志格式,即混合了STATEMENT和ROW两种格式。默认情况下采用STATEMENT,但是在一些特殊情况下采用ROW来进行记录。MIXED格式能尽量利用两种模式的优点,而避开他们的缺点。

2.2.3 日志读取

由于日志以二进位方式存储,不能直接读取,需要用mysqlbinlog工具来查看,语法如下 :

mysqlbinlog log-file;查看STATEMENT格式日志 :查看日志文件 :默认在/var/lib/mysql目录下

mysqlbin.index : 该文件是日志索引文件,记录日志的文件名;mysqlbing.000001 : 日志文件查看日志内容 :mysqlbinlog mysqlbing.000001;

查看ROW格式日志配置 :配置开启binlog日志,日志的文件前缀为mysqlbin —》生成的文件名如:mysqlbin.000001,mysqlbin.000002log_bin=mysqlbin配置二进位日志的格式binlog_format=ROW如果日志格式是ROW,直接查看数据,是查看不懂的;可以在mysqlbinlog后面加上参数 -wmysqbinlog -vv mysqlbin.000002

2.2.4 日志删除

对于比较繁忙的系统,由于每天生成日志量大,这些日志如果长时间不清除,将会占用大量的磁碟空间。下面我们将会讲解几种删除日志的常见方法:

方式1:通过Reset Master指令删除全部binlog日志,删除之后,日志编号,将从xxxx.000001重新开始。查询之前,先查询下日志文件 :

执行删除日志命令 :Reset Master执行之后,查看日志文件 :

方式2:执行指令 purge master logs to mysqlbin.』 ,该命令将删除编号之前的所有日志。方式3:执行指令 purge master logs before 『yyyy-mm-dd hh24:mi:ss』,该命令将删除日志为「yyyy-mm-dd hh24:mi:ss」之前产生的所有日志。方式4:设置参数 --expire_logs_days=#,此参数的含义是设置日志的过期天数,过了指定的天数后日志将会被自动删除,这样将有利于减少DBA管理日志的工作量。配置如下 :

2.3 查询日志

查询日志中记录了客户端的所有操作语句,而二进位日志不包含查询数据的SQL语句。

默认情况下,查看日志是未开启的。如果需要开启查询日志,可以设置以下配置 :该选项用来开启查询日志 ,可选值 :0或者 1;0代表关闭,1代表开启general_log=1设置日志的文件名,如果没有指定,默认的文件名为host_name.loggeneral_log_file=file_name在mysql的配置文件/usr/my.cnf中配置如下内容:

执行完查询语句以后,再次查看查询日志 :

2.4 慢查询日志

慢查询日志记录了所有执行时间超过参数long_query_time 设置值并且扫描记录数不小于min_examined_row_limit的所有的SQL语句的日志。

long_query_time默认为10秒,最小为0,精度可以到微妙。

2.4.1 文件位置和格式

慢查询日志默认是关闭的。可以通过两个参数来控制慢查询日志:

该参数用来控制慢查询日志是否开启,可取值 :1和0,1代表开启,0代表关闭slow_query_log=1该参数用来指定慢查询日志的文件名slow_query_log_file=slow_query.log该选项用来配置查询的时间限制,超过这个时间将认为值慢查询,将需要进行日志记录,默认10slong_query_time=10

2.4.2 日志的读取

和错误日志、查询日志一样,慢查看日志记录的格式也是纯文本,可以被直接读取。

1)查询long_query_time的值。

2)查看慢查询日志文件直接通过cat指令查询该日志文件 :

如果慢查询日志内容很多,直接查看文件,比较麻烦,这个时候可以借助于mysql自带的mysqldumpslow工具,来对慢查询日志进行分类汇总。

3. MySQL复制

3.1 复制概述

复制是指将主资料库的DDL和DML操作通过二进位日志传到从库伺服器中,然后在从库上对这些日志重新执行(也叫重做),从而使得从库和主库的数据保持同步。

3.2 复制原理

MySQL的主从复制原理如下。

从上层来看,复制分成三步 :

  1. Master主库在事务提交时,会把数据变更作为时间Events记录在二进位日志文件Binlog中。
  2. 主库推送二进位日志文件Binlog中的日志事件到从库的中级日志Relay Log。
  3. Slave重做中继日志中的事件,将改变反映它自己的数据。

3.3 复制优势

MySQL复制的优势主要包含以下三个方面 :

  1. 主库出现问题,可以快速切换到从库提供服务。
  2. 可以在从库上执行查询操作,从主库中更新,实现读写分离,降低主库的访问压力。
  3. 可以在从库中执行备份,以避
  4. 免备份期间影响主库的服务。

3.4 搭建步骤

3.4.1 master

1)在master的配置文件(/usr/my.cnf)中,配置如下内容 :

#mysql 服务ID,保证整个集群环境中唯一server-id=1

#mysql binlog 日志的存储路径和文件名

log-bin=/var/lib/mysql/mysqlbin

#错误日志,默认以及开启

#log-err#mysql的安装目录#basedir#mysql的临时目录#tmpdir#mysql的数据存放目录#datadir#是否只读,1代表只读,0代表读写read-only=0#忽略的数据,指不需要同步的资料库binlog-ignore-db=mysql

#指定同步的资料库

#binlog-do-db=db012)执行完毕之后,需要重启MySQL :service mysql restart;3)创建同步数据的账户,并且进行授权操作:grant replication slave on . to 『demo』@『192.168.192.131』 identified by 『demo』;flush privileges;4)查看master状态 :

3.4.2 slave

1)在slave端配置文件中,配置如下内容 :

#mysql服务端ID,唯一server-id=2#指定binlog日志log-bin=/var/lib/mysql/mysqlbin2)执行完毕之后,需要重启MySQL:service mysql restart;3)执行如下指令:change master to master_host=『192.168.192.130』,master_user=『demo』,master_password=『demo』,master_log_file=『mysqlbin.000001』,master_log_pos=413;指定当前从库的主库的IP地址,用户名,密码,从那个日志文件开始的那个位置开始同步推送日志。4)开启同步操作start slave;show slave status;

5)停止同步操作stop slave;

4. 通过AOP记录操作日志

4.1 自定义注解

通过自定义注解,来标识方法需不需要进行记录日志,如果该方法在访问时需要记录日志,则在该方法上标识该注解即可。

@Inherited@Document@Target(Elementype.METHOD)@Retention(RetentionPolicy.RUNTIME)public @interface OperateLog{}@Component@Aspectpublic class OperateAdvice {private static Logger log = Logger.getLogger(OperateAdvice.class);@Around("execution(* cn.demo.controller.*.*(..)) && @annotation(operateLog)") public Object insertLogAround(ProceedingJoinPoint pjp,OperateLog operateLog) throws Throwable { @Around("execution(* com.example.demo.controller.*.*(..)) && @annotation(operateLog)") public Object logAround(ProceedingJoinPoint pjo,OperateLog operateLog) { DateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss"); // 访问方法的时间 String dateTime = sdf.format(new Date()); // 访问的方法 String methodName = pjp.getSignature().getName(); // 访问哪一个类 String className = pjp.getClass().getName(); // 方法入参 String paramAndValue = Arrays.toString(pjp.getArgs()); // 统计耗时 long startTime = System.currentTimeMillis(); // 列印方法入参日志 log.info("输出日志"); // 放行,并获取返回值 Object returnValue= new Object(); try { returnValue= pjp.proceed(); } catch (Throwable throwable) { log.error(""); } long endTime = System.currentTimeMillis(); // 列印请求耗时日志 log.info(); // 列印返回值日志 return returnValue; } }

}

4.2 性能优化 -分页

4.8.1 优化count

创建一张表用来记录日志表的总数据量 :

create table log_counter (logcount bigint not null)engine = innodb default CHARSET = utf8;在每次插入数据之后,更新该表 :update log_counter set logcount = logcount + 1在进行分页查询时,获取总记录数,从该表中查询即可。select logcount from log_counter limit 1
推荐阅读:
相关文章