第三章第三章 平稳时间序列分析平稳时间序列分析本章结构本章结构方法性工具方法性工具1.ARMA模型模型2.平稳序列建模平稳序列建模3.序列预测序列预测4.3.1 方法性工具方法性工具 v本节结构差分运算延迟算子线性差分方程差分运算差分运算v一阶差分v 阶差分 v 步差分延迟算子延迟算子v延迟算子类似于一个时间指针，当前序列值乘以一个延迟算子，就相当于把当前序列值的时间向过去拨了一个时刻 v记B为延迟算子，有 延迟算子的性质延迟算子的性质v v v v v ，其中 用延迟算子表示差分运算用延迟算子表示差分运算v 阶差分 v 步差分线性差分方程线性差分方程 v线性差分方程v齐次线性差分方程齐次线性差分方程的解齐次线性差分方程的解v特征方程v特征方程的根称为特征根，记作v齐次线性差分方程的通解不相等实数根场合有相等实根场合复根场合非齐次线性差分方程的解非齐次线性差分方程的解 v非齐次线性差分方程的特解使得非齐次线性差分方程成立的任意一个解v非齐次线性差分方程的通解齐次线性差分方程的通解 和非齐次线性差分方程的特解 之和时序分析与线性差分方程的关系时序分析与线性差分方程的关系v常用的时间序列模型和某些模型的自协方差函数和自相关函数都可以视为线性差分方程v线性差分方程对应的特征根的性质对判断模型的平稳性有着非常重要的意义本章结构本章结构方法性工具方法性工具1.ARMA模型模型2.平稳序列建模平稳序列建模3.序列预测序列预测4.3.2 ARMA模型模型v本节结构AR模型（Auto Regression Model） MA模型（Moving Average Model） ARMA模型（Auto Regression Moving Average model）AR模型模型的定义的定义v具有如下结构的模型称为 阶自回归模型，简记为v特别当 时，称为中心化 模型 AR(P)序列中心化变换序列中心化变换v称 为 的中心化序列 ，令自回归系数多项式自回归系数多项式v引进延迟算子，中心化 模型又可以简记为 v自回归系数多项式AR模型平稳性判别模型平稳性判别 v判别原因AR模型是常用的平稳序列的拟合模型之一，但并非所有的AR模型都是平稳的 v判别方法单位根判别法平稳域判别法自回归方程的解自回归方程的解v任一个中心化 模型 都可以视为一个非齐次线性差分方程，它的通解求法如下（1）求齐次线性差分方程 的一个通解 （2）求非齐次线性差分方程 的一个特解（3）求非齐次线性差分方程 的通解 单位根检验单位根检验v自回归序列平稳，要求v成立的条件平稳域判别平稳域判别v对于一个 模型而言，如果没有平稳性的要求，实际上也就意味着对参数向量没有任何限制，它们可以取遍维欧氏空间的任意一点v如果加上了平稳性限制，参数向量就只能取维欧氏空间的一个子集，使得特征根都在单位圆内的系数集合v对于低阶自回归模型用平稳域的方法判别模型的平稳性通常更为简便。 AR(1)模型平稳条件模型平稳条件v方程结构v特征根v平稳域AR(2)模型的平稳条件模型的平稳条件v方程结构v特征根v平稳域AR(2)的平稳域的平稳域例例3.1:考察如下四个考察如下四个模型的平稳性模型的平稳性例例3.1平稳序列时序图平稳序列时序图例例3.1非平稳序列时序图非平稳序列时序图例例3.1平稳性判别平稳性判别模型特征根判别平稳域判别结论(1)平稳(2)非平稳(3)平稳(4)非平稳平稳平稳AR模型的统计性质模型的统计性质v均值v方差v协方差v自相关系数v偏自相关系数均值均值 v如果AR(p)模型满足平稳性条件，则有v根据平稳序列均值为常数，且 为白噪声序列，有v推导出Green函数定义函数定义vAR模型的传递形式v其中系数 称为Green函数Green函数递推公式函数递推公式v原理v方法：待定系数法例例3.2:求平稳求平稳AR(1)模型的方差模型的方差v平稳AR(1)模型的Green函数vGreen函数为v平稳AR(1)模型的方差方差方差v平稳AR模型的传递形式v两边求方差得协方差函数协方差函数v在平稳AR(p)模型两边同乘 ，再求期望v根据v得协方差函数的递推公式例例3.3:求平稳求平稳AR(1)模型的协方差模型的协方差v递推公式v平稳AR(1)模型的方差为v协方差函数的递推公式为例例3.4:求平稳求平稳AR(2)模型的协方差模型的协方差v平稳AR(2)模型的协方差函数递推公式为自相关系数自相关系数v自相关系数的定义v平稳AR(P)模型的自相关系数递推公式常用常用AR模型自相关系数递推公式模型自相关系数递推公式vAR(1)模型vAR(2)模型AR模型自相关系数的性质模型自相关系数的性质vAR模型自相关系数的表达式是一个齐次差分方程，设它的通解形式为v呈指数衰减v拖尾性例例3.5:考察如下考察如下AR模型的自相关图模型的自相关图例例3.5：考察四个平稳：考察四个平稳AR模型的自相关图模型的自相关图v自相关系数按复指数单调收敛到零例例3.5：考察四个平稳：考察四个平稳AR模型的自相关图模型的自相关图v自相关系数呈正负相间衰减例例3.5：考察四个平稳：考察四个平稳AR模型的自相关图模型的自相关图v自相关系数呈现出“伪周期”性例例3.5：考察四个平稳：考察四个平稳AR模型的自相关图模型的自相关图v自相关系数不规则衰减偏自相关系数偏自相关系数v定义 对于平稳 序列，所谓滞后k偏自相关系数就是指在给定中间k-1个随机变量 的条件下，或者说，在剔除了中间k-1个随机变量的干扰之后， 对 影响的相关度量。用数学语言描述就是偏自相关系数的计算偏自相关系数的计算Yule-Walker方程组方程组v在 方程等号两边同时乘以 ，并取期望，得v取前k k个方程构成的方程组即Yule-Walker方程组v解Yule-Walker方程组可以得到参数 的解，最后一个参数的解即为延迟K偏自相关系数Yule-Walker方程求解方程求解AR模型偏自相关系数的截尾性模型偏自相关系数的截尾性AR(1)模型偏自相关系数的计算模型偏自相关系数的计算vAR(1)模型vJule-Walker方程v偏自相关系数的解AR(2)模型偏自相关系数的计算模型偏自相关系数的计算例例3.5续续:考察如下考察如下AR模型的偏自相关图模型的偏自相关图例例3.5续续:考察如下考察如下AR模型的偏自相关图模型的偏自相关图v理论偏自相关系数v样本偏自相关图例例3.5续续:考察如下考察如下AR模型的偏自相关图模型的偏自相关图v理论偏自相关系数v样本偏自相关图例例3.5续续:考察如下考察如下AR模型的偏自相关图模型的偏自相关图v理论偏自相关系数v样本偏自相关图例例3.5续续:考察如下考察如下AR模型的偏自相关图模型的偏自相关图v理论偏自相关系数v样本偏自相关系数图MA模型模型的定义的定义v具有如下结构的模型称为 阶自回归模型，简记为v特别当 时，称为中心化 模型移动平均系数多项式移动平均系数多项式v引进延迟算子，中心化 模型又可以简记为 v 阶移动平均系数多项式MA模型的统计性质模型的统计性质v常数均值v常数方差MA模型的统计性质模型的统计性质v自协方差函数q阶截尾v自相关系数q阶截尾常用常用MA模型的自相关系数模型的自相关系数vMA(1)模型vMA(2)模型例例3.6:考察如下考察如下MA模型的相关性质模型的相关性质MA(1)模型的自相关系数模型的自相关系数1阶截尾阶截尾v v 不同的不同的MA(1)模型，相同的自相关系数模型，相同的自相关系数v考察上面两个MA(1)模型的自相关图，可以发现这两个不同的MA模型具有相同的自相关图v容易验证它们的理论自相关系数也正好相等MA(2)模型的自相关系数模型的自相关系数2阶截尾阶截尾v v 不同的不同的MA(2)模型，相同的自相关系数模型，相同的自相关系数v考察上面两个MA(2)模型的自相关图，可以发现这两个不同的MA模型具有相同的自相关图v容易验证它们的理论自相关系数也正好相等MA模型的可逆性模型的可逆性v例3.6演示了不同的MA模型，可能具有完全相同的自相关系数的现象。产生这种现象的原因就是我们在第二章中提到的：自相关系数有可能不唯一。v这种自相关系数的不唯一性，会给我们将来的工作增加麻烦。因为，将来我们都是通过样本自相关系数显示出来的特征选择合适的模型拟合序列的发展，如果自相关系数和模型之间不是一一对应关系，就将导致拟合模型和随机序列之间不会是一一对应关系。v为了保证一个给定的自相关函数能够对应唯一的模型，我们就要给模型增加约束条件。这个约束条件称为模型的可逆性条件。可逆的定义可逆的定义v可逆MA模型定义若一个MA模型能够表示称为收敛的AR模型形式，那么该MA模型称为可逆MA模型v可逆概念的重要性一个自相关系数列唯一对应一个可逆MA模型。可逆可逆MA(1)模型模型MA模型的可逆条件模型的可逆条件vMA(q)模型的可逆条件是：MA(q)模型的特征根都在单位圆内等价条件是移动平滑系数多项式的根都在单位圆外逆函数的递推公式逆函数的递推公式v原理v方法：待定系数法v递推公式例例3.6续续:考察如下考察如下MA模型的可逆性模型的可逆性(1)(2)v v v逆函数v逆转形式(3)(4)v v v逆函数v逆转形式MA模型偏自相关系数拖尾模型偏自相关系数拖尾v对于一个可逆 模型，可以等价写成 模型形式v其中vAR(p)模型偏自相关系数p阶截尾，所以可逆MA(q)模型偏自相关系数 阶截尾，即具有偏自相关系数拖尾属性。v一个可逆MA(q)模型一定对应着一个与它具有相同自相关系数和偏自相关系数的不可逆MA(q)模型，这个不可逆MA(q)模型也同样具有偏自相关系数拖尾特性。例例3.7 求求MA(1)模型偏自相关系数的表达式模型偏自相关系数的表达式vMA(1)模型表达式：v根据偏自相关系数的定义，我们知道延迟k阶偏自相关系数是如下方程组的最后一个系数v对 依次求方程，可以得到MA(1)模型任意k阶偏自相关系数的通解为例例3.6续续v绘制下列MA模型的偏自相关系数图，直观考察MA模型偏自相关系数的拖尾性MA(1)模型偏自相关系数拖尾模型偏自相关系数拖尾MA(2)模型偏自相关系数拖尾模型偏自相关系数拖尾ARMA模型模型的定义的定义v具有如下结构的模型称为自回归移动平均模型，简记为v特别当 时，称为中心化 模型系数多项式系数多项式v引进延迟算子，中心化 模型又可以简记为 v 阶自回归系数多项式v 阶移动平均系数多项式平稳条件与可逆条件平稳条件与可逆条件vARMA(p,q)模型的平稳条件P阶自回归系数多项式 的根都在单位圆外即ARMA(p,q)模型的平稳性完全由其自回归部分的平稳性决定vARMA(p,q)模型的可逆条件q阶移动平均系数多项式 的根都在单位圆外即ARMA(p,q)模型的可逆性完全由其移动平滑部分的可逆性决定传递形式与逆转形式传递形式与逆转形式v传递形式v逆转形式ARMA(p,q)模型的统计性质模型的统计性质v均值v协方差v自相关系数ARMA模型的相关性模型的相关性v自相关系数拖尾v偏自相关系数拖尾例例3.8:考察考察ARMA模型的相关性模型的相关性v拟合模型ARMA(1,1) 并直观地考察该模型自相关系数和偏自相关系数的性质。 自相关系数和偏自相关系数拖尾性自相关系数和偏自相关系数拖尾性v样本自相关图v样本偏自相关图ARMA模型相关性特征模型相关性特征本章结构本章结构方法性工具方法性工具1.ARMA模型模型2.平稳序列建模平稳序列建模3.序列预测序列预测4.3.3平稳序列建模平稳序列建模 v本节结构建模步骤模型识别参数估计模型检验模型优化序列预测建模步骤建模步骤平平稳稳非非白白噪噪声声序序列列计计算算样样本本相相关关系系数数模型模型识别识别参数参数估计估计模型模型检验检验模模型型优优化化序序列列预预测测YN计算样本相关系数计算样本相关系数v样本自相关系数v样本偏自相关系数模型识别模型识别v基本原则模型定阶的困难模型定阶的困难v因为由于样本的随机性，样本的相关系数不会呈现出理论截尾的完美情况，本应截尾的 或 仍会呈现出小值振荡的情况v由于平稳时间序列通常都具有短期相关性，随着延迟阶数 ， 与 都会衰减至零值附近作小值波动v当 或 在延迟若干阶之后衰减为小值波动时，什么情况下该看作为相关系数截尾，什么情况下该看作为相关系数在延迟若干阶之后正常衰减到零值附近作拖尾波动呢？ 样本相关系数的近似分布样本相关系数的近似分布vBarlettvQuenouille模型定阶经验方法模型定阶经验方法v95的置信区间v模型定阶的经验方法如果样本(偏)自相关系数在最初的d阶明显大于两倍标准差范围，而后几乎95的自相关系数都落在2倍标准差的范围以内，而且通常由非零自相关系数衰减为小值波动的过程非常突然。这时，通常视为(偏)自相关系数截尾。截尾阶数为d。例例3.9v选择合适的模型拟合1950年2008年我国邮路及农村投递线路每年新增里程数序列。序列时序图序列时序图白噪声白噪声检验检验v时序图显示序列没有显著非平稳特征。白噪声检验显示序列值彼此之间蕴含着相关关系，为非白噪声序列。序列自相关序列自相关图图序列偏自相关图序列偏自相关图拟合模型识别拟合模型识别v样本自相关图显示除了延迟1-3阶的自相关系数在2倍标准差范围之外，其他阶数的自相关系数都在2倍标准差范围内波动。根据自相关系数的这个特点可以判断该序列具有短期相关性，进一步确定序列平稳。v考察自相关系数衰减向零的过程，可以看到有明显的正弦波动轨迹，这说明自相关系数衰减到零不是一个突然的过程，而是一个有连续轨迹的过程，这是相关系数拖尾的典型特征v考察偏自相关系数衰减向零的过程，除了1-2阶偏自相关系数在2倍标准差范围之外，其他阶数的自相关系数都在2倍标准差范围内做小值无序波动，这是一个典型的相关系数2阶截尾特征v本例中，根据自相关系数拖尾，偏自相关系数2阶截尾属性，我们可以初步确定拟合模型为AR(2)模型。例例3.10美国科罗拉多州某一加油站连续57天的OVERSHORT序列 序列自相关图序列自相关图序列偏自相关图序列偏自相关图拟合模型识别拟合模型识别v自相关图显示除了延迟1阶的自相关系数在2倍标准差范围之外，其它阶数的自相关系数都在2倍标准差范围内波动。根据这个特点可以判断该序列具有短期相关性，进一步确定序列平稳。同时，可以认为该序列自相关系数1阶截尾v偏自相关系数显示出典型非截尾的性质。v综合该序列自相关系数和偏自相关系数的性质，为拟合模型定阶为MA(1) 例例3.11v1880-1985全球气表平均温度改变值差分序列 序列自相关图序列自相关图序列偏自相关图序列偏自相关图拟合模型识别拟合模型识别v自相关系数显示出不截尾的性质v偏自相关系数也显示出不截尾的性质v综合该序列自相关系数和偏自相关系数的性质，可以尝试使用ARMA(1,1)模型拟合该序列参数估计参数估计v待估参数 个未知参数v常用估计方法矩估计极大似然估计最小二乘估计矩估计矩估计v原理样本自相关系数估计总体自相关系数样本一阶均值估计总体均值，样本方差估计总体方差例例3.12:求求AR(2)模型系数的矩估计模型系数的矩估计vAR(2)模型vYule-Walker方程v矩估计（Yule-Walker方程的解）例例3.13:求求MA(1)模型系数的矩估计模型系数的矩估计vMA(1)模型v方程v矩估计例例3.14:求求ARMA(1,1)模型系数的矩估计模型系数的矩估计vARMA(1,1)模型v方程v矩估计对矩估计的评价对矩估计的评价v优点估计思想简单直观不需要假设总体分布计算量小（低阶模型场合）v缺点信息浪费严重只用到了p+q个样本自相关系数信息，其他信息都被忽略估计精度差v通常矩估计方法被用作极大似然估计和最小二乘估计迭代计算的初始值 极大似然估计极大似然估计v原理在极大似然准则下，认为样本来自使该样本出现概率最大的总体。因此未知参数的极大似然估计就是使得似然函数（即联合密度函数）达到最大的参数值 似然方程似然方程v由于 和 都不是 的显式表达式。因而似然方程组实际上是由p+q+1个超越方程构成，通常需要经过复杂的迭代算法才能求出未知参数的极大似然估计值 对极大似然估计的评价对极大似然估计的评价v优点极大似然估计充分应用了每一个观察值所提供的信息，因而它的估计精度高同时还具有估计的一致性、渐近正态性和渐近有效性等许多优良的统计性质v缺点需要假定总体分布最小二乘估计最小二乘估计v原理使残差平方和达到最小的那组参数值即为最小二乘估计值 条件最小二乘估计条件最小二乘估计v实际中最常用的参数估计方法v假设条件v残差平方和方程v解法迭代法对最小二乘估计的评价对最小二乘估计的评价v优点最小二乘估计充分应用了每一个观察值所提供的信息，因而它的估计精度高条件最小二乘估计方法使用率最高v缺点需要假定总体分布例例3.9续续v确定1950年2008年我国邮路及农村投递线路每年新增里程数序列拟合模型的口径。拟合模型：AR(2)估计方法：极大似然估计模型口径例例3.10续续v确定美国科罗拉多州某一加油站连续57天的OVERSHORTS序列拟合模型的口径 拟合模型：MA(1)估计方法：条件最小二乘估计模型口径例例3.11续续v确定1880-1985全球气表平均温度改变值差分序列拟合模型的口径 拟合模型：ARMA(1,1)估计方法：条件最小二乘估计模型口径模型的显著性检验模型的显著性检验v目的检验模型的有效性（对信息的提取是否充分）v检验对象残差序列v判定原则一个好的拟合模型应该能够提取观察值序列中几乎所有的样本相关信息，即残差序列应该为白噪声序列 反之，如果残差序列为非白噪声序列，那就意味着残差序列中还残留着相关信息未被提取，这就说明拟合模型不够有效假设条件假设条件v原假设：残差序列为白噪声序列v备择假设：残差序列为非白噪声序列检验统计量检验统计量vLB统计量模型检验模型检验v模型的显著性检验整个模型对信息的提取是否充分v参数的显著性检验模型结构是否最简例例3.9续续v检验1950年2008年我国邮路及农村投递线路每年新增里程数序列拟合模型的显著性 v残差白噪声序列检验结果参数显著性检验参数显著性检验v目的检验每一个未知参数是否显著非零。删除不显著参数使模型结构最精简 v假设条件v检验统计量例例3.9续续v检验1950年2008年我国邮路及农村投递线路每年新增里程数序列拟合模型参数的显著性 v参数检验结果例例3.10续续:对对OVERSHORTS序列的拟合模型进行检验序列的拟合模型进行检验 v残差白噪声检验v参数显著性检验例例3.11续续:对对1880-19851880-1985全球气表平均温度改变值差分序列拟合模型进行检验全球气表平均温度改变值差分序列拟合模型进行检验 v残差白噪声检验v参数显著性检验模型优化模型优化v问题提出当一个拟合模型通过了检验，说明在一定的置信水平下，该模型能有效地拟合观察值序列的波动，但这种有效模型并不是唯一的。v优化的目的选择相对最优模型 例例3.15:拟合某一化学序列拟合某一化学序列序列自相关图序列自相关图序列偏自相关图序列偏自相关图拟合模型一拟合模型一v根据自相关系数2阶截尾，拟合MA(2)模型v参数估计v模型检验模型显著有效 三参数均显著 拟合模型二拟合模型二v根据偏自相关系数1阶截尾，拟合MA(1)模型v参数估计v模型检验模型显著有效 两参数均显著 问题问题v同一个序列可以构造两个拟合模型，两个模型都显著有效，那么到底该选择哪个模型用于统计推断呢？ v解决办法确定适当的比较准则，构造适当的统计量，确定相对最优AIC准则准则v最小信息量准则（An Information Criterion） v指导思想似然函数值越大越好 未知参数的个数越少越好 vAIC统计量SBC准则准则vAIC准则的缺陷在样本容量趋于无穷大时，由AIC准则选择的模型不收敛于真实模型，它通常比真实模型所含的未知参数个数要多 vSBC统计量例例3.15续续v用AIC准则和SBC准则评判例3.15中两个拟合模型的相对优劣 v结果AR(1)优于MA(2)本章结构本章结构方法性工具方法性工具1.ARMA模型模型2.平稳序列建模平稳序列建模3.序列预测序列预测4.序列预测序列预测v线性预测函数v预测方差最小原则序列分解序列分解预测误差预测误差预测值预测值误差分析误差分析v估计误差v期望v方差AR(p)序列的预测序列的预测v预测值v预测方差v95置信区间例例3.16v已知某超市月销售额近似服从AR(2)模型（单位：万元/每月）v今年第一季度该超市月销售额（万元）分别为：101，96，97.2v请确定该超市第二季度每月销售额的95的置信区间 例例3.14解：预测值计算解：预测值计算v四月份v五月份v六月份例例3.14解：预测方差的计算解：预测方差的计算vGREEN函数v方差例例3.14解：置信区间解：置信区间v公式v估计结果例例3.9续续v根据1950年2008年的观察值序列预测2009-2013年我国邮路及农村投递线路每年新增里程数MA(q)序列的预测序列的预测v预测值v预测方差例例3.17v已知某地区每年常驻人口数量近似服从MA(3)模型（单位：万人）：v最近3年的常驻人口数量及一步预测数量如下：v预测未来5年该地区常住人口的95置信区间例例3.17解：随机扰动项的计算解：随机扰动项的计算例例3.17解：估计值的计算解：估计值的计算例例3.15解：预测方差的计算解：预测方差的计算例例3.17解：置信区间的计算解：置信区间的计算ARMA(p,q)序列预测序列预测v预测值v预测方差例例3.18v已知ARMA(1,1)模型为：v且 v预测未来3期序列值的95的置信区间。 例例3.18解：估计值的计算解：估计值的计算例例3.16解：预测方差的计算解：预测方差的计算vGreen函数v方差例例3.16解：置信区间的计算解：置信区间的计算修正预测修正预测v定义所谓的修正预测就是研究如何利用新的信息去获得精度更高的预测值 v方法在新的信息量比较大时把新信息加入到旧的信息中，重新拟合模型 在新的信息量很小时不重新拟合模型，只是将新的信息加入以修正预测值，提高预测精度修正预测原理修正预测原理v在旧信息的基础上， 的预测值为v假设新获得一个观察值 ，则 的修正预测值为修正预测误差为预测方差为一般情况一般情况v假设新获得p个观察值 ，则 的修正预测值为修正预测误差为预测方差为例例3.16续续v假如四月份的真实销售额为100万元，求二季度后两个月销售额的修正预测值v计算四月份的预测误差v计算修正预测值v计算修正方差修正置信区间修正置信区间本章上机指导本章上机指导vPROC ARIMA模型概述IDENTIFY语句ESTIMATE语句FORECAST语句