深入学习MySQL事务:ACID特性的实现原理
事务是MySQL等关系型数据库区别与NoSQL的中重要方面,是保证数据一致性的重要手段,本文将首先介绍MySQL事务相关的基础概念,然后介绍事务的ACID特性,并分析其实现原理
一 基础概念 |
事务(Transaction)是访问和更新数据库的程序执行单元;事务中可能包含一个或多个sql语句,这些语句要么都执行,要么都不执行,作为一个关系型数据库,MySQ支持事务,本文介绍基于MySQL5.6.
首先回顾一下MySQL事务的基础知识。
- 逻辑架构和存储引擎
如上图所示,MySQL服务器逻辑架构从上往下可以分为三层:
(1)第一层:处理客户端连接,授权认证等。
(2)第二层:服务器层,负责查询语句的解析、优化、缓存以及内置函数的实现、存储过程等。
(3)第三层:存储引擎,负责MySQL中数据的存储和提取。MySQL中服务器层部管理事务,事务是由存储引擎实现的。MySQL支持事务的存储引擎有InnoDB、NDB Cluster等,其中InnoDB使用最为广泛;其它存储引擎不支持事务如MyISAM、Memory等。
如无特殊说明,后文中描述的内容都是基于InnoDB.
提交和回滚
典型的MySQL事务是如下操作的:
start transaction;
---DML语句-----
---DML语句-----
---DML语句-----
commit;
其中start transaction标识事务开始,commit提交事务,将执行结果写入到数据库,如果sql语句执行出现问题,会调用rollback,回滚所有已经执行成功的sql语句,当然,也可以在事务中直接使用rollback语句进行回滚。
自动提交:
MySQL中默认采用的是自动提交(autocommit)模式,如下所示:
mysql> SHOW VARIABLES LIKE ‘AUTOCOMMIT’;
+—————+——-+
| Variable_name | Value |
+—————+——-+
| autocommit | ON |
+—————+——-+
1 row in set, 1 warning (0.06 sec)
在自动提交模式,如果没有start transaction显式地开始一个事务,那么每个sql语句都会被当作一个事务执行提交操作
通过如下方式,可以关闭autocommit;需要注意的是,autocommit参数是针对连接的,在一个连接中修改了参数,不会对其它连接产生影响。
mysql> SET AUTOCOMMIT = 0;
Query OK, 0 rows affected (0.00 sec)
mysql> SHOW VARIABLES LIKE ‘AUTOCOMMIT’;
+—————+——-+
| Variable_name | Value |
+—————+——-+
| autocommit | OFF |
+—————+——-+
1 row in set, 1 warning (0.00 sec)
如果关闭了autocommit,则所有的sql语句都在一个事务中,直到执行了commit(rollback),该事务成功结束(事务失败结束),同时开始了另外一个事务。
特殊操作
在MySQL中,存在一些特殊的命令,如果在事务中执行了这些命令,会马上强制执行commit提交事务;如DDL语句(create table/drop table/alter table)、lock tables语句等等
不过,成勇的select、insert、update和delect命令,都不会强制提交事务的。
ACID特性
ACID是衡量事务的四个特性:
- 原子性(Atomicity,或称不可分割性)
- 一致性(Consistency)
- 隔离性(isolation)
- 持久性(Durability)
按照严格的标准,只有同时满足ACID特性才是事务;但是在各大数据库厂商的实现中,真正满足ACID的事务少之又少。例如MySQL的NDB Cluster事务不满足持久性和隔离性;InnoDB默认事务隔离级别是可重复读,不满足隔离性;Oracle默认的事务隔离级别为READ COMMITED,不满足隔离性…因此与其说ACID是事务必须满足的条件,不如说他们是衡量事务的四个维度。
下面将详细介绍ACID特性及其实现原理;为了便于理解,介绍的顺序不是严格按照A-C-I-D。
二 原子性 |
1 定义
原子性是指一个事务是一个不可分割的工作单位,其中的操作要么都做,要么都不做;如果事务中一个sql语句执行失败,则已执行的语句也必须回滚,数据库退回到事务前的状态。
2 实现原理:undo log
在说明原子性原理之前,首先介绍一个MySQL事务日志。MySQL的日志有很多种,如二进制日志、错误日志、查询日志、慢查询日志等,此外InnoDB存储引擎还提供了两种事务日志:redo log(重做日志)和undo log(回滚日志)。其中redo log用于保证事务持久性;undo log则是事务原子性和隔离性实现的基础。
下面说回undo log。实现原子性的关键,是当事务回滚时能够撤销所有已经成功执行的sql语句。InnoDB实现回滚,靠的是undo log:当事务对数据库进行修改时,InnoDB会生成对应的undo log;如果事务执行失败或调用了rollback,导致事务需要回滚,便可以利用undo log中的信息将数据回滚到修改之前的样子。
undo log属于逻辑日志,它记录的是sql执行相关的信息。当发生回滚时,InnoDB会根据undo log的内容做与之前相反的工作:对于每个insert,回滚时会执行delete;对于每个delete,回滚时会执行insert;对于每个update,回滚时会执行一个相反的update,把数据改回去。
以update操作为例:当事务执行update时,其生成的undo log中会包含被修改行的主键(以便知道修改了哪些行)、修改了哪些列、这些列在修改前后的值等信息,回滚时便可以使用这些信息将数据还原到update之前的状态。
三 持久性 |
1 定义
持久性是指事务一旦提交,它对数据库的改变就应该是永久性的。接下来的其它操作或故障不应该对其有任何影响。
2 实现原理:redo log
redo log和undo log都属于InnoDB的事务日志,下面先聊一下(redo log)存在的背景。
InnoDB作为MySQL的存储引擎,数据是存放在磁盘中的,但如果每次读写数据都需要磁盘IO,效率会很低,为此,InnoDB提供了缓存(Buffer Pool),Buffer Pool中包含了磁盘中部分数据页映射,作为访问数据库的缓冲;当从数据库读取数据时,会首先从Buffer Pool中读取,如果Buffer Pool中没有,则从磁盘读取后放入Buffer Pool;当向数据库写入数据时,会首先写入Buffer Pool,Buffer Pool中修改的数据会定期刷新到磁盘中(这一过程为刷脏)。
于是,redo log被引入来解决这个问题:当数据修改时,除了修改Buffer Pool中的数据,还会在redo log记录这次操作;当事务提交时,会调用fsync接口对redo log进行刷盘。如果MySQL宕机,重启时可以读取redo log中的数据,对数据库进行恢复。redo log采用的是WAL(Write-ahead logging,预写式日志),所有修改先写入日志,再更新到Buffer Pool,保证了数据不会因MySQL宕机而丢失,从而满足了持久性要求。
既然redo log也需要在事务提交时将日志写入磁盘,为什么它比直接将Buffer Pool中修改的数据写入磁盘(即刷脏)要快呢?主要有以下两方面的原因:
(1)刷脏是随机IO,因为每次修改的数据位置随机,但写redo log是追加操作,属于顺序IO。
(2)刷脏是以数据页(Page)为单位的,MySQL默认页大小是16KB,一个Page上一个小修改都要整页写入;而redo log中只包含真正需要写入的部分,无效IO大大减少。
**redo log与binlog**
我们知道,在MySQL中还存在binlog(二进制日志)也可以记录写操作并用于数据的恢复,但二者是有着根本的不同的:
(1)作用不同:redo log是用于crash recovery的,保证MySQL宕机也不会影响持久性;binlog是用于point-in-time recovery的,保证服务器可以基于时间点恢复数据,此外binlog还用于主从复制。
(2)层次不同:redo log是InnoDB存储引擎实现的,而binlog是MySQL的服务器层(可以参考文章前面对MySQL逻辑架构的介绍)实现的,同时支持InnoDB和其他存储引擎。
(3)内容不同:redo log是物理日志,内容基于磁盘的Page;binlog的内容是二进制的,根据binlog_format参数的不同,可能基于sql语句、基于数据本身或者二者的混合。
(4)写入时机不同:binlog在事务提交时写入;redo log的写入时机相对多元:
前面曾提到:当事务提交时会调用fsync对redo log进行刷盘;这是默认情况下的策略,修改innodb_flush_log_at_trx_commit参数可以改变该策略,但事务的持久性将无法保证。
除了事务提交时,还有其他刷盘时机:如master thread每秒刷盘一次redo log等,这样的好处是不一定要等到commit时刷盘,commit速度大大加快。
# <table><tr><td bgcolor=#7FFFD4;><p style="color:red;font-size:24px">三 隔离性</p></td></tr></table>
1 定义
**与原子性、持久性侧重与研究事务本身不同,隔离性研究的是不同事务之间的相互影响**隔离性是指,事务内部的操作与其他事务是隔离的,并发执行的各个事务之间不能互相干扰。严格的隔离性,对应了事务隔离级别中的Serializable (可串行化),但实际应用中出于性能方面的考虑很少会使用可串行化。
隔离性追求的是并发情形下事务之间互不干扰。简单起见,我们仅考虑最简单的读操作和写操作(暂时不考虑带锁读等特殊操作),那么隔离性的探讨,主要可以分为两个方面:
> * (一个事务)写操作对(另一个事务)写操作的影响:锁机制保证隔离性
> * (一个事务)写操作对(另一个事务)读操作的影响:MVCC保证隔离性
**2.锁机制**
首先来看两个事务的写操作之间的相互影响。隔离性要求同一时刻只能有一个事务对数据进行写操作,InnoDB通过锁机制来保证这一点。
锁机制的基本原理可以概括为:事务在修改数据之前,需要先获得相应的锁;获得锁之后,事务便可以修改数据;该事务操作期间,这部分数据是锁定的,其他事务如果需要修改数据,需要等待当前事务提交或回滚后释放锁。
行锁与表锁 按照粒度,锁可以分为表锁、行锁以及其他位于二者之间的锁。表锁在操作数据时会锁定整张表,并发性能较差;行锁则只锁定需要操作的数据,并发性能好。但是由于加锁本身需要消耗资源(获得锁、检查锁、释放锁等都需要消耗资源),因此在锁定数据较多情况下使用表锁可以节省大量资源。MySQL中不同的存储引擎支持的锁是不一样的,例如MyIsam只支持表锁,而InnoDB同时支持表锁和行锁,且出于性能考虑,绝大多数情况下使用的都是行锁。
如何查看锁信息
有多种方法可以查看InnoDB中锁的情况,例如:
```bash
SELECT * FROM information_schema.innodb_locks;#锁的概况
show engine innodb status;#InnoDB整体状态,其中包括锁的情况
```
其中lock_type为RECORD,代表锁为行锁(记录锁);lock_mode为X,代表排它锁(写锁)。
除了排它锁(写锁)之外,MySQL中还有共享锁(读锁)的概念。由于本文重点是MySQL事务的实现原理,因此对锁的介绍到此为止,后续会专门写文章分析MySQL中不同锁的区别、使用场景等,欢迎关注。
**3 脏读、不可重复读和幻读**
首先来看并发情况下,读操作可能存在的三类问题:
(1) 脏读:当前事务(A)中可以读到其它事务(B)未提交的数据(脏数据),这种现象是脏读,举例如下(以账户余额表为例):
------------------------------------------------------------------
时间 事务A 事务B
------------------------------------------------------------------
T1 开始事务 开始事务
------------------------------------------------------------------
T2 修改zhangsan的余额
将余额由100改为200
------------------------------------------------------------------
T3 查询zhangsan的余额
结果为200[脏读]
------------------------------------------------------------------
T4 提交事务
------------------------------------------------------------------
(2)不可重复读:在事务A中先后两次读取同一个数据,两次读取的结果不一样,这种现象称为不可重复读。
脏读与不可重复读的区别在于:前者读到的是其他事务为提交的数据,后者读到的是其它事务已提交的数据。
-------------------------------------------------------------------------------
时间 事务A 事务B
-------------------------------------------------------------------------------
T1 开始事务 开始事务
-------------------------------------------------------------------------------
T2 查询zhangsan的余额,结果为100
-------------------------------------------------------------------------------
T3 修改zhangsan的余额
将余额由100改为200
-------------------------------------------------------------------------------
T4 提交事务
-------------------------------------------------------------------------------
T5 查询zhangsan的余额,结果为
200[不可重复读]
-------------------------------------------------------------------------------
(3)幻读:在事务A中按照某个条件先后两次查询数据库,两次查询结果的条数不同,这种现象称为幻读。不可重复读与幻读的区别可以通俗的理解为:前者是数据变了,后者是数据的行数变了。举例如下:
---------------------------------------------------------------------------------
时间 事务A 事务B
---------------------------------------------------------------------------------
T1 开始事务 开始事务
---------------------------------------------------------------------------------
T2 查询0<id<5的所有用户的余额:
zhangsan:100(id=1)
---------------------------------------------------------------------------------
T3 账户余额表中插入新用户
lisi:200(id=2)
---------------------------------------------------------------------------------
T4 提交事务
---------------------------------------------------------------------------------
T5 查询0<id<5的所有用户的余额:
zhangsan:100(id=1)
lisi:200(id=2)【幻读】
------------------------------------------------------------------------------------------
4 事务隔离级别
------------------------------------------------------------------------------------------
SQL标准中定义了四种隔离级别,并规定了每种隔离级别下上述几个问题是否存在。一般来说,
隔离级别越低,系统开销越低,可支持的并发越高,但隔离性也越差。隔离级别与读问题的关系如下:
------------------------------------------------------------------------------------------
隔离级别 脏读 不可重复读 幻读
------------------------------------------------------------------------------------------
Read Uncommitted 可能 可能 可能
读未提交
------------------------------------------------------------------------------------------
Read committed 不可能 可能 可能
读已提交
------------------------------------------------------------------------------------------
Repeatable Read 不可能 不可能 可能
可重复读
------------------------------------------------------------------------------------------
Serializable 不可能 不可能 不可能
可串行化
------------------------------------------------------------------------------------------
在实际应用中,读未提交在并发时会导致很多问题,而性能相对于其他隔离级别提高却很有限,因此使用较少。可串行化强制事务串行,并发效率很低,只有当对数据一致性要求极高且可以接受没有并发时使用,因此使用也较少。因此在大多数数据库系统中,默认的隔离级别是读已提交(如Oracle)或可重复读(如:mysql,后文简称RR)
mysql> select @@global.tx_isolation;
+-----------------------+
| @@global.tx_isolation |
+-----------------------+
| REPEATABLE-READ |
+-----------------------+
1 row in set, 1 warning (0.00 sec)
mysql> select @@tx_isolation;
+-----------------+
| @@tx_isolation |
+-----------------+
| REPEATABLE-READ |
+-----------------+
1 row in set, 1 warning (0.00 sec)
MYSQL中InnoDB默认的隔离级别是RR,后文会重点介绍RR。需要注意的是,在SQL标准中,RR是无法避免幻读问题的,但是InnoDB实现的RR避免了幻读问题。
5 MVCC
RR解决脏读,不可重复读、幻读等问题,使用的是MVCC:MVCC全称:Multi-Version Concurrency Control,即多版本的并发控制协议,下面的例子很好的体现了MVCC的特点:在同一时刻,不同事务读取到的数据可能是不同的(即多版本)-在T5时刻,事务A和事务C可以读取到不同版本的数据。
---------------------------------------------------------------------
时间 事务A 事务B 事务C
-------------------------------------------------------------------------
T1 开始事务 开始事务 开始事务
--------------------------------------------------------------------------
T2 查询zhangsan的
余额结果为100
--------------------------------------------------------------------------
T3 修改zhangsan的余额
将余额由100改为200
--------------------------------------------------------------------------
T4 提交事务
--------------------------------------------------------------------------
T5 查询zhangsan的余额
结果为100 查询zhangsan的余额
结果为200
--------------------------------------------------------------------------
MVCC最大的有点是读不加锁,因此读写不冲突,并发性能好,InnoDB实现MVCC,多个版本的数据可以共存,主要是依靠数据的隐藏列(可以称之为标记位)和undo log。其中数据的隐藏列包括了该行数据的版本号、删除时间、指向undo log的指针等等,当读取数据时,MySQL可以通过隐藏列判断是否需要回滚并找到回滚需要的undo log,从而实现MVCC;隐藏列的详细格式不再展开。
下面结合前文提到的几个问题分别说明:
(1)脏读
-------------------------------------------------------------
时间 事务A 事务B
-------------------------------------------------------------
T1 开始事务 开始事务
-------------------------------------------------------------
T2 修改zhangsan的余额,
将余额由100改为200
-------------------------------------------------------------
T3 查询zhangsan的余额
结果为100(避免了脏读)
-------------------------------------------------------------
T4 提交事务
-------------------------------------------------------------
当事务A在T3时间节点读取zhangsan的余额时,会发现数据已被其他事务修改,且状态为未提交。此时事务A读取最新数据后,根据数据的undo log执行回滚操作,得到事务B修改前的数据,从而避免了脏读。
(2)不可重复读
-------------------------------------------------------------
时间 事务A 事务B
-------------------------------------------------------------
T1 开始事务 开始事务
-------------------------------------------------------------
T2 查询zhangsan的余额
结果为100
-------------------------------------------------------------
T3 修改zhangsan的余额
将余额由100改为200
-------------------------------------------------------------
T4 提交事务
-------------------------------------------------------------
查询zhangsan的余额
T5 结果为100(避免了不可重复读)
-------------------------------------------------------------
当事务A在T2节点第一次读取数据时,会记录该数据的版本号(数据的版本号是以row为单位记录的),假设版本号为1;当事务B提交时,该行记录的版本号增加,假设版本号为2;当事务A在T5再一次读取数据时,发现数据的版本号(2)大于第一次读取时记录的版本号(1),因此会根据undo log执行回滚操作,得到版本号为1时的数据,从而实现了可重复读。
(3)幻读
InnoDB实现的RR通过next-key lock机制避免了幻读现象。
**next-key lock是行锁的一种,实现相当于record lock(记录锁) + gap lock(间隙锁);其特点是不仅会锁住记录本身(record lock的功能),还会锁定一个范围(gap lock的功能)。**当然,这里我们讨论的是不加锁读:此时的next-key lock并不是真的加锁,只是为读取的数据增加了标记(标记内容包括数据的版本号等);准确起见姑且称之为类next-key lock机制。还是以前面的例子来说明:
-------------------------------------------------------------------
时间 事务A 事务B
--------------------------------------------------------------------------
T1 开始事务 开始事务
--------------------------------------------------------------------------
T2 查询0<id<5的所有用户的余额:
zhangsan:100(id=1)
--------------------------------------------------------------------------
T3 账户余额表中插入新用户
lisi:200(id=2)
--------------------------------------------------------------------------
T4 提交事务
--------------------------------------------------------------------------
T5 查询0<id<5的所有用户的余额:
zhangsan:100(id=1)
(避免了幻读)
--------------------------------------------------------------------------
当事务A在T2节点第一次读取0<id<5数据时,标记的不只是id=1的数据,而是将范围(0,5)进行了标记,这样当T5时刻再次读取0<id<5数据时,便可以发现id=4的数据比之前标记的版本号更高,此时再结合undo log执行回滚操作,避免了幻读。
6 总结
概括来说,InnoDB实现的RR,通过锁机制、数据的隐藏列、undo log和类next-key lock,实现了一定程度的隔离性,可以满足大多数场景的需要,不过需要说明的是,RR虽然避免了幻读问题,但是毕竟不是Serializable,不能保证完全的隔离,下面是一个例子,大家可以自己验证一下。
-------------------------------------------------------------------------
时间 事务A 事务B
-------------------------------------------------------------------------
T1 开始事务 开始事务
-------------------------------------------------------------------------
T2 查询0<id<5的所有用户的余额:
zhangsan:100(id=1)
-------------------------------------------------------------------------
T3 账户余额表中插入新用户
lisi:200(id=2)
-------------------------------------------------------------------------
T4 提交事务
-------------------------------------------------------------------------
T5 修改0<id<5的所有用户的余额为300
-------------------------------------------------------------------------
T6 提交事务(事务A提交后,zhangsan和lisi的余额都是300)
-------------------------------------------------------------------------
# <table><tr><td bgcolor=#7FFFD4;><p style="color:red;font-size:24px">五 一致性</p></td></tr></table>
1 **基本概念**
一致性是指事务执行结束后,数据库的完整性约束没有被破坏,事务执行的前后都是合法的数据状态。数据库的完整性约束包括但不限于:实体完整性(如行的主键存在且唯一)、列完整性(如字段的类型、大小、长度要符合要求)、外键约束、用户自定义完整性(如转账前后,两个账户余额的和应该不变)。
2 **实现** 可以说,一致性是事务追求的最终目标:前面提到的原子性、持久性和隔离性,都是为了保证数据库状态的一致性。此外,除了数据库层面的保障,一致性的实现也需要应用层面进行保障。
实现一致性的措施包括:
> * 保证原子性、持久性和隔离性,如果这些特性无法保证,事务的一致性也无法保证
> * 数据库本身提供保障,例如不允许向整形列插入字符串值、字符串长度不能超过列的限制等
> *应用层面进行保障,例如如果转账操作只扣除转账者的余额,而没有增加接收者的余额,无论数据库实现的多么完美,也无法保证状态的一致
# <table><tr><td bgcolor=#7FFFD4;><p style="color:red;font-size:24px">六 总结</p></td></tr></table>
**下面总结一下ACID特性及其实现原理:**
原子性:语句要么全执行,要么全不执行,是事务最核心的特性,事务本身就是以原子性来定义的;实现主要基于undo log
持久性:保证事务提交后不会因为宕机等原因导致数据丢失;实现主要基于redo log
隔离性:保证事务执行尽可能不受其他事务影响;InnoDB默认的隔离级别是RR,RR的实现主要基于锁机制、数据的隐藏列、undo log和类next-key lock机制
一致性:事务追求的最终目标,一致性的实现既需要数据库层面的保障,也需要应用层面的保障