近代时间序列分析选讲:
一. 非线性时间序列
二. GARCH模型
三. 多元时间序列
四. 协整模型
非线性时间序列
第一章.非线性时间序列浅释
1.从线性到非线性自回归模型
2.线性时间序列定义的多样性第二章. 非线性时间序列模型
1. 概述
2. 非线性自回归模型
3.带条件异方差的自回归模型
4.两种可逆性
5.时间序列与伪随机数
第三章.马尔可夫链与AR模型
1. 马尔可夫链
2. AR模型所确定的马尔可夫链
3. 若干例子
第四章. 统计建模方法
1. 概论
2. 线性性检验
3.AR模型参数估计
4.AR模型阶数估计
第五章. 实例和展望
1. 实例
2.展望
第一章.非线性时间序列浅释
1. 从线性到非线性自回归模型
时间序列{x t}是一串随机变量序列, 它有广泛的实际背景, 特别是在经济与金融领域中尤其显著. 关于它们的从线性与非线性概念, 可从以下的例子入手作一浅释的说明.
考查一阶线性自回归模型---LAR(1):
x t=αx t-1+e t, t=1,2,…(1.1)
其中{e t}为i.i.d.序列，且Ee t=0, Ee t=σ2<∞, 而且e t与{x t-1,x t-1,…}独立. 反复使用(1.1)式的递推关系, 就可得到
x t=αx t-1+e t
= e t + αx t-1
= e t + α{ e t-1 + αx t-2}
= e t + αe t-1 + α2 x t-2
=…
= e t + αe t-1 + α2e t-2
+…+ αn-1e t-n+1 +αn x t-n. (1.2)
如果当n→∞时,
αn x t-n→0, (1.3)
{e t+αe t-1+α2e t-2+…+αn-1e t-n+1}
→∑j=0∞αj e t-j . (1.4)
虽然保证以上的收敛是有条件的, 而且要涉及到具体收敛的含义, 但是, 对以上的简单模型, 不难相信, 当|α|<1时, (1.3)(1.4)式成立. 于是, 当|α|<1时, 模型LAR(1)有平稳解, 且可表达为
x t=∑j=0∞αj e t-j . (1.5)
通过上面叙述可见求LAR(1)模型的解有简便之优点, 此其一. 还有第二点, 容易推广到LAR(p)模型. 为此考查如下的p阶线性自回归模型LAR(p):
x t =α1x t-1+α2x t-2+...+αp x t-p +e t ,
t=1,2,… (1.6)
其中{e t }为i.i.d.序列，且Ee t =0, Ee t =σ2<∞, 而且e t 与{x t-1, x t-1,…}独立.虽然反复使用(1.6)式的递推式, 仍然可得到(1.2)式的类似结果, 但是,用扩张后的一阶多元AR 模型求解时, 可显示出与LAR(1)模型求解的神奇的相似. 为此记
X t =??????? ??+--1
1p t t t x x x M , U=??????? ??001M , A=??????
? ??00000121ΛΛΛΛΛΛΛp ααα, (1.7)
于是(1.6)式可写成如下的等价形式:
X t=A X t-1+ e t U. (1.8)
反复使用此式的递推关系, 形式上仿照(1.2)式可得
X t=AX t-1+e t U
= e t U+e t-1AU+A2x t-2
=?
=e t U+e t-1AU+e t-2A2U+…
+e t-n+1A n-1U+A n x t-n.
如果矩阵A的谱半径(A的特征值的最大模)λ(A), 满足如下条件
λ(A)<1, (1.10)
由上式可猜想到(1.8)式有如下的解:
X t=∑k=0∞A k Ue t-k. (1.11)
其中向量X t的第一分量x t形成的序列{x t}, 就是模型(1.6)式的解. 由此不难看出, 它有
以下表达方式
x t=∑k=0∞?k e t-k. (1.11)
其中系数?k由(1.6)式中的α1,α2, ... ,αp确定, 细节从略. 不过, (1.11)式给了我们重要启发, 即考虑形如
x t=∑k=0∞ψk e t-k, ∑k=0∞ψk2<∞, (1.12)
的时间序列类(其中系数ψk能保证(1.12)式中的x t有定义). 在文献中, 这样的序列{x t}就被称为线性时间序列.
虽然以上给出了线性时间序列的定义, 以下暂时不讨论什么是非线性时间序列, 代之先讨论一阶非线性自回归模型---NLAR(1), 以便与LAR(1)模型进行比较分析. 首先写出NLAR(1)模型如下
x t=?(x t-1)+e t,t=1,2,…(1.13)
其中{e t}为i.i.d.序列，且Ee t=0, Ee t=σ2<∞, 而
且e t与{x t-1,x t-2,…}独立, 这些假定与LAR(1)模型相同, 但是, ?(x t-1)不再是x t-1的线性函数, 代之为非线性函数, 比如
?(x t-1)=x t-1/{a+bx t-12}.
此时虽然仍可反复使用(1.13)式进行迭代, 但是所得结果是
x t=? (x t-1) +e t
= e t+ ? (x t-1)
= e t+ ? ( e t-1+ ? (x t-2))
= e t+ ? ( e t-1+ ? ( e t-2+ ? (x t-3)))
=…
=e t+? ( e t-1+ ? ( e t-2+ …+? (x t-n))…).
(1.14)
根据此式, 我们既不能轻易判断?(x t-1)函数满足怎样的条件时, 上式会有极限, 也不能猜测其极限有怎样的形式.
对于p阶非线性自回归模型
x t =?(x t-1,x t-2,…,x t-p )+e t ,
t=1,2,… (1.15)
仿照(1.6)至(1.9)式的扩张的方法, 我们引入如下记号
Φ( x t-1,x t-2,…,x t-p )≡??????
? ??+-----1
121,...,,(p t t p t t t x x x x x M ?, (1.16)
我们得到与(1.15)式等价的模型
X t =Φ(X t-1) +e t U, t=1,2,… (1.17)
但是, 我们再也得不出(1.9)至(1.14)式的结果,
至此我们已将看出, 从线性到非线性自回归模型有实质性差异, 要说清楚它们, 并不是很简单的事情. 从数学角度而言, 讨
论线性自回归模型可借用泛函分析方法, 然而, 讨论非线性自回归模型, 则要借用马尔可夫链的理论和方法. 这也正是本讲座要介绍的主要内容.
2. 线性时间序列定义的多样性
现在简单叙述一下非线性时间序列定义的复杂性, 它与线性时间序列的定义有关. 前一小节中(1.12)式所显示的线性时间序列, 只是一种定义方式. 如果改变对系数 k的限制条件, 就会给出不同的定义. 更为重要的是, 在近代研究中, 将(1.12)式中的i.i.d.序列{e t}放宽为平稳鞅差序列, 这在预报理论中很有意义.
无论引用哪一种线性时间序列定义, 都对相应的序列的性质有所研究, 因为其研究成果可用于有关的线性时间序列模型解的特性研究. 事实上, 已经有丰富的成果被载入文献史册.
依上所述可知, 由于线性时间序列定义的多样性, 必然带来非线性时间序列定义的复杂性. 这里需要强调指的是, 对于非线性
时间序列, 几乎没有文章研究它们的一般性质, 这与线性时间序列情况不同. 于是人们要问, 我们用哪些工具来研究非线性时间序列模型解的特性呢? 这正是本次演讲要回答的问题. 确切地说, 我们将介绍马尔可夫链, 并借助于此来讨论非线性自回归模型解的问题.
第二章. 非线性时间序列模型
1. 概论
从(1.12)式可见，一个线性时间序列{x t}, 被{e t}的分布和全部系数 i 所决定. 在此有无穷多个自由参数，这对统计不方便，因此人们更关心只依赖有限个自由参数的线性时间序列，这就是线性时间序列的参数模型. 其中最常用的如ARMA模型. 对于非线性时间序列而言, 使用参数模型方法几乎是唯一的选择. 由于非线性函数的多样性, 带来了非线性时间序列模型的多样性. 但是, 迄今为止被研究得较多, 又有应用价值的非线
性时序模型, 为数极少, 而且主要是针对非线性自回归模型. 在介绍此类模型之前, 我们先对非线性时序模型的分类作一概述.
通用假定: {εt}为i.i.d.序列，且Eεt=0, 而且εt与{x t-1, x t-2,…}独立.
可加噪声模型:
x t=?(x t-1,x t-2,…)+εt,
t=1,2,…(2.1)
其中?(…)是自回归函数. 当它仅依赖于有限个未知参数时, 记此参数向量为α, 其相应的(2.1)模型常写成
x t=?(x t-1,x t-2,…;α)+εt,
t=1,2,…(2.2)
否则, 称(2.1)式称为非参数模型.
关于(2.1)(2.2)的模型的平稳性, 要在下一章讨论, 但是, 它有类似于线性AR模