数 据 库 基 础数据恢复技术汤 娜中山大学计算机科学系isstnzsu.edu.cn系统篇数据库完整性数据库恢复技术并发控制数据库安全性数据库恢复技术1事务的基本概念2数据库恢复概述3故障的种类4恢复的实现技术5恢复策略6具有检查点的恢复技术7数据库镜像8小结1事务的基本概念一、什么是事务二、如何定义事务三、事务的特性一、什么是事务v事务(Transaction)是用户定义的一个数据库操作序列，这些操作要么全做，要么全不做，是一个不可分割的工作单位v事务和程序是两个概念在关系数据库中，一个事务可以是一条SQL语句，一组SQL语句或整个程序一个应用程序通常包含多个事务v事务是恢复和并发控制的基本单位二、如何定义事务v显式定义方式BEGINTRANSACTIONBEGINTRANSACTIONSQL语句1SQL语句1SQL语句2SQL语句2。COMMITROLLBACKROLLBACK事务异常终止事务运行的过程中发生了故障，不能继续执行回滚事务的所有更新操作事务滚回到开始时的状态COMMIT事务正常结束提交事务的所有操作（读+更新）事务中所有对数据库的更新永久生效事务的开始v隐式方式当用户没有显式地定义事务时，DBMS按缺省规定自动划分事务例子BEGINTRANSACTION读账户甲的余额至变量BALANCEBALANCE=BALANCE-AMOUNT(AMOUNT为转账金额）IF(BALANCE0)THEN显示金额不足，不能转账; ROLLBACK;(撤销该事务）ELSE 将BALANCE的值写回到账户甲；读账户乙的余额至变量BALANCE1BALANCE1=BALANCE1+AMOUNT 将BALANCE1的值写回到账户乙； COMMIT;三、事务的特性(ACID特性)事务的ACID特性：v原子性（Atomicity）v一致性（Consistency）v隔离性（Isolation）v持续性（Durability）1.原子性v事务是数据库的逻辑工作单位事务中包括的诸操作要么都做，要么都不做2.一致性事务执行的结果必须是使数据库从一个一致性状态变到另一个一致性状态一致性状态：数据库中只包含成功事务提交的结果不一致状态：数据库中包含失败事务的结果一致性与原子性B=B+1A=A-1BA银行转帐：从帐号A中取出一万元，存入帐号B。1.定义一个事务，该事务包括两个操作2.这两个操作要么全做，要么全不做v全做或者全不做，数据库都处于一致性状态。v如果只做一个操作，数据库就处于不一致性状态。v例：现假设一个公司数据库中有两个账户S，C，分别有存款3万元和2万元，现从S账户上的取出1 万元放入到C账户上。Read(S)S=30000S=S-10000S=20000Write(S)Read(C)C=20000C=C+10000C=30000Write(C)S：20000C：20000中间状态一致状态一致状态S：30000C：20000S：20000C：300003.隔离性对并发执行而言一个事务的执行不能被其他事务干扰v一个事务内部的操作及使用的数据对其他并发事务是隔离的v并发执行的各个事务之间不能互相干扰T1的修改被T2覆盖了！读A=16AA-3写回A=13读A=16AA-1写回A=15T2T14.持续性v持续性也称永久性（Permanence）一个事务一旦提交，它对数据库中数据的改变就应该是永久性的。接下来的其他操作或故障不应该对其执行结果有任何影响。事务的特性v保证事务ACID特性是事务处理的任务v破坏事务ACID特性的因素多个事务并行运行时，不同事务的操作交叉执行事务在运行过程中被强行停止第七章数据库恢复技术1事务的基本概念2数据库恢复概述3故障的种类4恢复的实现技术5恢复策略6具有检查点的恢复技术7数据库镜像8Oracle的恢复技术9小结2数据库恢复概述v故障是不可避免的计算机硬件故障系统软件和应用软件的错误操作员的失误恶意的破坏v故障的影响运行事务非正常中断，但不会破坏数据库破坏数据库数据库恢复概述（续）v数据库管理系统对故障的对策保证故障发生后，能把数据库中的数据从错误状态恢复到某种逻辑一致的状态保证事务ACIDDBMS提供恢复子系统v恢复技术是衡量系统优劣的重要指标数据库恢复技术1事务的基本概念2数据库恢复概述3故障的种类4恢复的实现技术5恢复策略6具有检查点的恢复技术7数据库镜像8小结3故障的种类v事务故障v系统故障v介质故障一、事务故障v什么是事务故障某个事务在运行过程中由于种种原因未运行至正常终止点就夭折了v事务故障的常见原因输入数据有误运算溢出违反了某些完整性限制某些应用程序出错并行事务发生死锁。事务故障的恢复v发生事务故障时，夭折的事务可能已把对数据库的部分修改写回磁盘v处理方法预期故障： 通过在程序中加判断条件来实现。执行回滚（ROLLBACK）语句来撤销事务。非预期的故障： 如由于死锁、运算溢出而被迫撤销的事务等，由系统来撤销事务事务故障的恢复的本质：撤消事务（UNDO）3故障的种类v事务故障v系统故障v介质故障二、系统故障v什么是系统故障整个系统的正常运行突然被破坏所有正在运行的事务都非正常终止内存中数据库缓冲区的信息全部丢失外部存储设备上的数据未受影响系统故障的常见原因v操作系统或DBMS代码错误v操作员操作失误v特定类型的硬件错误（如CPU故障）v突然停电系统故障的恢复v清除尚未完成的事务对数据库的所有修改系统重新启动时，恢复程序要强行撤消（UNDO）所有未完成事务v将缓冲区中已完成事务提交的结果写入数据库系统重新启动时，恢复程序需要重做（REDO）所有已提交的事务3故障的种类v事务故障v系统故障v介质故障三、介质故障v硬件故障使存储在外存中的数据部分丢失或全部丢失v介质故障比前两类故障的可能性小得多，但破坏性大得多介质故障的常见原因v硬件故障磁盘损坏磁头碰撞操作系统的某种潜在错误瞬时强磁场干扰介质故障的恢复v装入数据库发生介质故障前某个时刻的数据副本v重做自此时始的所有成功事务，将这些事务已提交的结果重新记入数据库数据库恢复技术1事务的基本概念2数据库恢复概述3故障的种类4恢复的实现技术5恢复策略6具有检查点的恢复技术7数据库镜像8小结恢复操作的基本原理v恢复操作的基本原理：冗余利用存储在系统其它地方的冗余数据来重建数据库中已被破坏或不正确的那部分数据v恢复的实现技术：复杂一个大型数据库产品，恢复子系统的代码要占全部代码的10%以上4恢复的实现技术恢复机制涉及的关键问题1.如何建立冗余数据v数据转储（backup）v登录日志文件（logging）2.如何利用这些冗余数据实施数据库恢复4.1数据转储一、什么是转储二、转储的用途三、转储方法一、什么是转储v转储是指DBA将整个数据库复制到磁带或另一个磁盘上保存起来的过程。v这些备用的数据文本称为后备副本或后援副本。二、转储方法1静态转储与动态转储2海量转储与增量转储3转储方法小结1静态转储v在系统中无运行事务时进行转储转储开始时数据库处于一致性状态。转储期间不允许对数据库的任何存取、修改活动v优点：实现简单v缺点：降低了数据库的可用性转储必须等用户事务结束新的事务必须等转储结束利用静态转储副本进行恢复 故障发生点故障发生点 静态静态转储转储 运行事务运行事务 正常运行正常运行 Ta Ta Tb Tb Tf Tf 重装后备副本重装后备副本 利用日志文件恢复事务利用日志文件恢复事务 恢复恢复登记日志文件登记日志文件继续运行动态转储v转储操作与用户事务并发进行转储期间允许对数据库进行存取或修改v优点不用等待正在运行的用户事务结束不会影响新事务的运行v动态转储的缺点不能保证副本中的数据正确有效动态转储v利用动态转储得到的副本进行故障恢复需要把动态转储期间各事务对数据库的修改活动登记下来，建立日志文件后备副本加上日志文件才能把数据库恢复到某一时刻的正确状态利用动态转储副本进行恢复 Ta Ta Tb Tb Tf Tf 动态动态转储转储 运行事务运行事务 故障发生点故障发生点正常运行正常运行 登记转储日志登记转储日志 登记新日志文件登记新日志文件 重装后备副本，重装后备副本， 然后利用转储的然后利用转储的 日志文件恢复日志文件恢复恢复到一恢复到一致性状态致性状态登记日志文件继续运行利用日志文件恢复事务利用日志文件恢复事务2海量转储与增量转储v海量转储:每次转储全部数据库v增量转储:只转储上次转储后更新过的数据v海量转储与增量转储比较从恢复角度看，使用海量转储得到的后备副本进行恢复往往更方便但如果数据库很大，事务处理又十分频繁，则增量转储方式更实用更有效3转储方法小结v转储方法分类转储状态转储状态动态转储动态转储静态转储静态转储转储转储方式方式海量转储海量转储动态海量转储动态海量转储静态海量转储静态海量转储增量转储增量转储动态增量转储动态增量转储静态增量转储静态增量转储转储策略v应定期进行数据转储，制作后备副本。v但转储又是十分耗费时间和资源的，不能频繁进行。vDBA应该根据数据库使用情况确定适当的转储周期和转储方法。例：每天晚上进行动态增量转储每周进行一次动态海量转储每月进行一次静态海量转储3恢复的实现技术3.1数据转储3.2登记日志文件3.2登记日志文件一、日志文件的内容三、登记日志文件的原则一、日志文件的内容1.什么是日志文件日志文件(log)是用来记录事务对数据库的更新操作的文件2.日志文件的格式以记录为单位的日志文件以数据块为单位的日志文件日志文件的内容（续）3.日志文件内容各个事务的开始标记(BEGINTRANSACTION)各个事务的结束标记(COMMIT或ROLLBACK)各个事务的所有更新操作日志文件中的一个日志记录(logrecord)4.基于记录的日志文件更新操作日志记录的内容事务标识操作类型（插入、删除或修改）操作对象（记录ID、BlockNO.）更新前数据的旧值（对插入操作而言，此项为空值）更新后数据的新值（对删除操作而言,此项为空值）二、登记日志文件的原则v为保证数据库是可恢复的，登记日志文件时必须遵循两条原则登记的次序严格按并行事务执行的时间次序必须先写日志文件，后写数据库v写日志文件操作：把表示这个修改的日志记录写到日志文件v写数据库操作：把对数据的修改写到数据库中登记日志文件的原则（续）v为什么要先写日志文件写数据库和写日志文件是两个不同的操作在这两个操作之间可能发生故障如果先写了数据库修改，而在日志文件中没有登记下这个修改，则以后就无法恢复这个修改了如果先写日志，但没有修改数据库，按日志文件恢复时只不过是多执行一次不必要的UNDO操作，并不会影响数据库的正确性第七章数据库恢复技术1事务的基本概念2数据库恢复概述3故障的种类4恢复的实现技术5恢复策略6具有检查点的恢复技术7数据库镜像8小结5恢复策略5.1事务故障的恢复5.2系统故障的恢复5.3介质故障的恢复5.1事务故障的恢复v事务故障：事务在运行至正常终止点前被中止v恢复方法由恢复子系统应利用日志文件撤消（UNDO）此事务已对数据库进行的修改v事务故障的恢复由系统自动完成，不需要用户干预事务故障的恢复步骤1.反向扫描文件日志（即从最后向前扫描日志文件），查找该事务的更新操作。2.对该事务的更新操作执行逆操作。即将日志记录中“更新前的值”（BeforImage,BI）写入数据库。插入操作，“更新前的值”为空，则相当于做删除操作删除操作，“更新后的值”为空，则相当于做插入操作若是修改操作，则用BI代替AI（AfterImage）3.继续反向扫描日志文件，查找该事务的其他更新操作，并做同样处理。4.如此处理下去，直至读到此事务的开始标记，事务故障恢复就完成了。5.2系统故障的恢复v系统故障造成数据库不一致状态的原因一些未完成事务对数据库的更新已写入数据库一些已提交事务对数据库的更新还留在缓冲区没来得及写入数据库v恢复方法1.Undo故障发生时未完成的事务2.Redo已完成的事务v系统故障的恢复由系统在重新启动时自动完成，不需要用户干预系统故障的恢复步骤1.正向扫描日志文件（即从头扫描日志文件）Redo队列:在故障发生前已经提交的事务T1,T3,T8.Undo队列:故障发生时尚未完成的事务T2,T4,T5,T6,T7,T9.系统故障的恢复步骤2.对Undo队列事务进行UNDO处理反向扫描日志文件，对每个UNDO事务的更新操作执行逆操作T2,T4,T5,T6,T7,T93.对Redo队列事务进行REDO处理正向扫描日志文件，对每个REDO事务重新执行登记的操作T1,T3,T8.5.3介质故障的恢复1.重装数据库，使数据库恢复到一致性状态2.重做已完成的事务5.3介质故障的恢复v恢复步骤1.装入最新的后备数据库副本，使数据库恢复到最近一次转储时的一致性状态。对于静态转储的数据库副本，装入后数据库即处于一致性状态对于动态转储的数据库副本，还须同时装入转储时刻的日志文件副本，利用与恢复系统故障相同的方法（即REDO+UNDO），才能将数据库恢复到一致性状态。利用静态转储副本将数据库恢复到一致性状态 故障发生点故障发生点 静态静态转储转储 运行事务运行事务 正常运行正常运行 Ta Ta TbTb Tf Tf 登记日志文件登记日志文件 重装后备副本重装后备副本 恢复恢复 利用动态转储副本将数据库恢复到一致性状态 Ta Ta Tb Tb Tf Tf 动态动态转储转储 运行事务运行事务 故障发生点故障发生点正常运行正常运行 登记日志文件登记日志文件 登记新日志文件登记新日志文件 转储日志文件转储日志文件 重装后备副本，然后利用转储的日志文件恢复重装后备副本，然后利用转储的日志文件恢复恢复到一恢复到一 致性状态致性状态介质故障的恢复（续）2.装入有关的日志文件副本，重做已完成的事务。首先扫描日志文件，找出故障发生时已提交的事务的标识，将其记入重做队列。然后正向扫描日志文件，对重做队列中的所有事务进行重做处理。即将日志记录中“更新后的值”写入数据库。介质故障的恢复（续）介质故障的恢复需要DBA介入vDBA的工作重装最近转储的数据库副本和有关的各日志文件副本执行系统提供的恢复命令v具体的恢复操作仍由DBMS完成第七章数据库恢复技术1事务的基本概念2数据库恢复概述3故障的种类4恢复的实现技术5恢复策略6具有检查点的恢复技术7数据库镜像8小结6具有检查点的恢复技术一、问题的提出二、检查点技术三、利用检查点的恢复策略一、问题的提出v两个问题搜索整个日志将耗费大量的时间REDO处理：重新执行，浪费了大量时间解决方案v具有检查点（checkpoint）的恢复技术在日志文件中增加检查点记录（checkpoint）增加重新开始文件恢复子系统在登录日志文件期间动态地维护日志二、检查点技术v检查点记录的内容1.建立检查点时刻所有正在执行的事务清单2.这些事务最近一个日志记录的地址v重新开始文件的内容记录各个检查点记录在日志文件中的地址在检查点维护日志文件1.将当前日志缓冲区中的所有日志记录写入磁盘的日志文件上。2.在日志文件中写入一个检查点记录。3.将当前数据缓冲区的所有数据记录写入磁盘的数据库中。4.把检查点记录在日志文件中的地址写入一个重新开始文件。建立检查点v定期按照预定的一个时间间隔v不定期按照某种规则，如日志文件已写满一半建立一个检查点三、利用检查点的恢复策略v当事务T在一个检查点之前提交T对数据库所做的修改已写入数据库v在进行恢复处理时，没有必要对事务T执行REDO操作利用检查点的恢复策略（续）Tc (检查点检查点)Tf(系统故障系统故障) REDOUNDOUNDO REDOT2T3T4T5不要不要REDOT1利用检查点的恢复步骤1.从重新开始文件中找到最后一个检查点记录在日志文件中的地址2由该地址在日志文件中找到最后一个检查点记录利用检查点的恢复策略（续）2.由该检查点记录得到检查点建立时刻所有正在执行的事务清单ACTIVE-LIST建立两个事务队列vUNDO-LISTvREDO-LIST把ACTIVE-LIST暂时放入UNDO-LIST队列，REDO队列暂为空。利用检查点的恢复策略（续）3.从检查点开始正向扫描日志文件，直到日志文件结束如有新开始的事务Ti，把Ti暂时放入UNDO-LIST队列如有提交的事务Tj，把Tj从UNDO-LIST队列移到REDO-LIST队列4.对UNDO-LIST中的每个事务执行UNDO操作,对REDO-LIST中的每个事务执行REDO操作第七章数据库恢复技术1事务的基本概念2数据库恢复概述3故障的种类4恢复的实现技术5恢复策略6具有检查点的恢复技术7数据库镜像8小结7数据库镜像v介质故障是对系统影响最为严重的一种故障，严重影响数据库的可用性介质故障恢复比较费时为预防介质故障，DBA必须周期性地转储数据库v提高数据库可用性的解决方案数据库镜像（Mirror）数据库镜像（续）v数据库镜像DBMS自动把整个数据库或其中的关键数据复制到另一个磁盘上DBMS自动保证镜像数据与主数据的一致性(图5a)数据库镜像的用途v出现介质故障时DBMS自动利用镜像磁盘数据进行数据库的恢复，不需要关闭系统和重装数据库副本(图5b)v没有出现故障时可用于并发操作(图5a)一个用户对数据加排他锁修改数据其他用户可以读镜像数据库上的数据数据库镜像（续）数据库镜像（续）v由于采用复制数据实现镜像，而频繁复制会导致较低系统运行效率。因此实际应用只针对关键数据和日志文件进行镜像，而不是整个数据库第七章数据库恢复技术1事务的基本概念2数据库恢复概述3故障的种类4恢复的实现技术5恢复策略6具有检查点的恢复技术7数据库镜像8小结8小结v如果数据库只包含成功事务提交的结果，就说数据库处于一致性状态。保证数据一致性是对数据库的最基本的要求。v事务是数据库的逻辑工作单位DBMS保证系统中一切事务的原子性、一致性、隔离性和持续性小结（续）vDBMS必须对事务故障、系统故障和介质故障进行恢复v恢复中最经常使用的技术：数据库转储和登记日志文件v恢复的基本原理：利用存储在后备副本、日志文件和数据库镜像中的冗余数据来重建数据库小结（续）v常用恢复技术事务故障的恢复vUNDO系统故障的恢复vUNDO+REDO介质故障的恢复v重装备份并恢复到一致性状态+REDO小结（续）v提高恢复效率的技术检查点技术v可以提高系统故障的恢复效率v可以在一定程度上提高利用动态转储备份进行介质故障恢复的效率镜像技术v镜像技术可以改善介质故障的恢复效率