前一篇文章通过一条查询语句,大概了解了MySQL的基础架构。

本篇文章通过一条更新语句,来大概了解MySQL的日志系统。

1
2
3
4
//建表
mysql> create table T(ID int primary key, c int);
//更新ID为2的行的C列的值
mysql> update T set c=c+1 where ID=2;

首先要知道的是,查询语句那一套流程,更新语句也会先走一遍。(连接器-分析器-优化器-执行器)

与查询的不同点在于 ,更新流程还涉及两个重要的日志模块

  • redo log(重做日志):存储引擎层,让MySQL拥有崩溃恢复能力。
  • binlog (归档日志):server层,同步数据保证数据一致性。

redo log

下面说的都是存储引擎层的事儿。

Innodb 基于磁盘存储,同时按 页 的方式来管理记录。如果每次查询或修改都要按页和磁盘进行 IO 交互会严重影响数据库的性能,因此引入了内存缓存,叫做 Buffer Pool

有了内存缓存,在对数据进行查询时,先查缓存,如果数据存在直接返回,如果不存在则去磁盘读取并将读取到的页放到缓存池中,然后再返回数据;对数据的修改也是先修改缓存池的页,而后异步的将页刷新回磁盘。

但是异步刷新磁盘也带来一个新问题:在刷新磁盘前如果意外宕机,重启后内存数据已经没有了,就会导致数据丢失。

为了避免数据丢失,Innodb 采用了 Write Ahead Log(WAL) 策略,即当事务提交时,先写日志,再修改页,当发生意外宕机时,可以通过日志来恢复数据,这个日志就叫做 redo log,它保证了事务的 持久性。

简单来说,对于一条更新语句,MySQL在存储引擎层的操作是 :

  • InnoDB 引擎就会先把记录写到 redo log里面,并更新内存,这个时候更新就算完成了
  • InnoDB 引擎会在适当的时候,将这个操作记录更新到磁盘里面

那么什么时候将redo log更新到磁盘里面呢?这就是所谓的刷盘时机,默认每次事务提交时都将进行刷盘操作。

binlog

redo log 它是物理日志,记录内容是“在某个数据页上做了什么修改”,属于 InnoDB 存储引擎。

binlog逻辑日志,记录内容是语句的原始逻辑,属于MySQL Server 层。,类似于“给 ID=2 这一行的 c 字段加 1”,

binlog 是用来保证数据一致性的。

比如执行一条update T set update_time=now() where id=1binlog如何保持一致性?

redo log与bin log的不同点

  1. 侧重点不一样 。redo log(重做日志)让InnoDB存储引擎拥有了崩溃恢复能力。binlog(归档日志)保证了MySQL集群架构的数据一致性。
  2. 写入时机不一样。以基本的事务为单位,redo log在事务执行过程中可以不断写入,而binlog只有在提交事务时才写入

两阶段提交

为什么必须有“两阶段提交”呢?这是为了让两份日志之间的逻辑一致。要说明这个问题,我们得从三个问题说起:

  • 执行更新语句的内部流程?
  • 怎么恢复数据库状态?
  • 没有两阶段提交会发生什么?

执行更新语句的内部流程

  1. 执行器先找引擎取 ID=2 这一行。ID 是主键,引擎直接用树搜索找到这一行。如果 ID=2 这一行所在的数据页本来就在内存中,就直接返回给执行器;否则,需要先从磁盘读入内存,然后再返回。
  2. 执行器拿到引擎给的行数据,把这个值加上 1,比如原来是 N,现在就是 N+1,得到新的一行数据,再调用引擎接口写入这行新数据。
  3. 引擎将这行新数据更新到内存中,同时将这个更新操作记录到 redo log 里面,此时 redo log 处于 prepare 状态。然后告知执行器执行完成了,随时可以提交事务。(一阶段)
  4. 执行器生成这个操作的 binlog,并把 binlog 写入磁盘。
  5. 执行器调用引擎的提交事务接口,引擎把刚刚写入的 redo log 改成提交(commit)状态,更新完成。(两阶段)

怎样让数据库恢复状态?

binlog 会记录所有的逻辑操作,并且是采用“追加写”的形式。如果要保证可以让数据库回到半个月内任意时间的状态,那么备份系统中一定会保存最近半个月的所有 binlog,同时系统会定期(一天、一周等)做整库备份。

当需要恢复到指定的某一秒时,需要找回数据,那你可以这么做:

  • 首先,找到最近的一次全量备份,如果你运气好,可能就是昨天晚上的一个备份,从这个备份恢复到临时库;
  • 然后,从备份的时间点开始,将备份的 binlog 依次取出来,重放到中午误删表之前的那个时刻

没有两阶段提交会发生什么?

由于 redo log 和 binlog 是两个独立的逻辑,如果不用两阶段提交,要么就是先写完 redo log 再写 binlog,或者采用反过来的顺序。我们看看这两种方式会有什么问题。

仍然用前面的 update 语句来做例子。假设当前 ID=2 的行,字段 c 的值是 0,再假设执行 update 语句过程中在写完第一个日志后,第二个日志还没有写完期间发生了 crash(也就是写入binlog时发生异常),会出现什么情况呢?

  1. 先写 redo log 后写 binlog。

    假设在 redo log 写完,binlog 还没有写完的时候,MySQL 进程异常重启。由于我们前面说过的,redo log 写完之后,系统即使崩溃,仍然能够把数据恢复回来,所以恢复后这一行 c 的值是 1。但是由于 binlog 没写完就 crash 了,这时候 binlog 里面就没有记录这个语句。因此,之后备份日志的时候,存起来的 binlog 里面就没有这条语句。然后你会发现,如果需要用这个 binlog 来恢复临时库的话,由于这个语句的 binlog 丢失,这个临时库就会少了这一次更新,恢复出来的这一行 c 的值就是 0,与原库的值不同。

  2. 先写 binlog 后写 redo log。

    如果在 binlog 写完之后 crash,由于 redo log 还没写,崩溃恢复以后这个事务无效,所以这一行 c 的值是 0。但是 binlog 里面已经记录了“把 c 从 0 改成 1”这个日志。所以,在之后用 binlog 来恢复的时候就多了一个事务出来,恢复出来的这一行 c 的值就是 1,与原库的值不同。

简单说,redo log 和 binlog 都可以用于表示事务的提交状态,而两阶段提交就是让这两个状态保持逻辑上的一致。