随机过程复习要点
第一章 概率论知识补充
1.随机事件体有样本空间的全体子集总共2n
个组成。 1.特征函数：
随机变量X 的分布函数为F(x),称()()(),itX itx
g t E e e dF x t ∞
-∞==-∞<<∞?为X 的特
征函数。()()ln X X t g t ψ=，此为第二特征函数。 离散型：()1k
itx k k g t e
p ∞
==∑；
连续型：()()itx g t e f x dx ∞
-∞
=
?
2特征函数的性质：注：特征函数为虚函数。
()()()()()()()()()()()()()()()()()()()()()()()()()()2
'"'12n 12n 12101,1,.2-30=-0.
-0;00.
4....
5n k k k
k k k n g g t g t g t g t X g t n k n g i EX EX i g EX i g DX g g X g t g t g t g t =≤-=∞∞≤===-+==第二项为取模，第三项为取共轭。在，一致连续；
若随机变量X 的n 阶矩EX 存在，则的特征函数阶可导，
且当时，有；若X X ...X 相互独立，则X +X +...+X 的特征函数为随机变量的分布函数由其特征函数唯一确定。两者是一一对应的。
3随机变量的分布函数()F x 与特征函数g(t)是一一对应的且相互唯一确定。 如果
X
为连续型且特征函数
g(t)j
绝对可积则有：
()()()()()()()()1;
2.
itx X itx X X X f x e g t dt g t e f x dx g t f x f x g t π
∞
--∞
∞
-∞
=
=?
?是的相差一个负号的傅氏变换；是的相差一个负号的傅氏逆变换。
4n 维正态分布：
()()()1212,,..,
...n n i ij
ij n n
n X
N a B X X X a a a a a B b b ?==维正态分布：其中 X=为均值，为正定矩阵，为协方差。
性质：(),,,X
X a B Y XA =若
若()'
',.A BA Y
N aA A BA 正定，则即正态随机变量的线性变换仍为正态随机变量.
5条件期望：
<1>离散型随机变量:
（1）设X,Y 是离散型随机变量，对一切是()0p Y y =>的y ，定义
（2）给定Y y =时，X 的条件概率为：()()
()
,/P X x Y y P X x Y y P Y y ======；
（3）给定Y y =时，X 的条件分布函数为：()()//F x y P X x Y y =≤=; （4）给定Y y =时,X 的条件期望为：()()()E X Y y xdF x y xP X x Y y ===
==∑?
<2>连续型随机变量：
（1）设X,Y 是连续型随机变量，其联合概率密度为(),f x y ，则对一切使()0Y f y ≤的y ，定义
（2）给定Y y =时，X 的条件概率概率为：()()
()
,Y f x y f x y f y =
；
（3）给定Y y =时，X 的条件分布函数为：()()()x
F x y P X x Y y f x y dx -∞
=≤==?；
（4）给定Y y =时,X 的条件期望为：
()()(),E X Y y xdF x y xf x y dx ===??；
（5）()E X y =是y 的函数，y 是Y 的一个可能值，若在已知的Y 情况下全面的考虑X 的均值，需要以Y 代替y ，而()E X 是随机变量Y 的函数，也是随机变量，称为X 在Y 下的条件期望。 6条件期望的性质：
（1）若随机变量X,Y 的期望存在，则 （2）
第二章 随机过程的一般概念
随机过程为一个在随机变量的基础上加上特殊的常数t 的随机变量族。 3.根据参数T 及状态空间I 的可列性分类： T,I 均可列，即为：离散随机序列，（离散时间）链； T 不可列，I 可列：离散型随机过程，（连续时间）链； T 可列，I 不可列：连续随机序列，随机序列； T,I 均不可列，连续随机过程，随机过程。
T 的可列性决定了是随机过程还是随机序列；I 的可列性决定了是连续性还是离散型。 4随机过程分布函数的性质： （1）对称性：
{}{}
()()
12121
2
1
2
12,,..,12,,..,,,..,,,..,,,,..,,,..,;
n n i i
i i i i n
n
n i i i t t t n t t t t t t t t t t t t F x x x F x x
x =对于的任意排列（2）相容性：当n ()()1212,,,..,12,,.,...,12,,..,,,.,,...,m m n t t t m t t t t m F x x x F x x x =∞∞ 6.随机变量的分布函数中只有随机变量；随机过程的分布函数中除了含有随机变量以外还有特殊常数t .()()()()()()()()()(){}12 12121212121212121212,,...,,,...,,,,..,,,...,,,,..,,,...,,,,..,,,...,,,,..,,n n n n x x x n n n n n n n X t X t X t f t t t x x x F t t t x x x f t t t x x x dx dx dx f t t t x x x X t t T n f -∞-∞ -∞ = ??????∈?? ? 若是n 维连续型随机变向量，存在非负可积函数使得： 成立，则是随机过程的维概率密度函数。此时有：()()() 1212121212,,...,,,,..,,,...,,,,..,= ...n n n n n n F t t t x x x t t t x x x x x x ???? 10.随机过程的数字特征:均为t 的函数此处应特别与随机变量相区分 <1>T X 均值函数：设(){} ,T X X t t T =∈是随机过程，若对任意的t T ∈,()EX t 存在，则称函数()()X m t EX t =为T X 的均值函数. <2>若对任意的t T ∈,() () 2 E X t 存在，则称T X 为二阶矩过程。 <3>T X 的协方差函数：()()()( )()()(),,,X X X B s t E X s m s X t m t s t T ??=--∈??;此处为同 一随机过程的不同时刻， <4>T X 方差函数：()()()() () 2 ,,X X X D t B t t E X t m t t T ==-∈； <5>T X 的相关函数：()()(),,,X R s t E X s X t s t T =∈????;此处为同一随机过程的不同时刻。 <6>二阶矩过程的协方差和相关函数一定存在： ()()()(),,X X X X B s t R s t m s m t =- 当()()()=0,,T X X X X m t B s t R s t =的均值函数时，； <7>相关系数：此处为同一随机过程的不同时刻。 () ,X s t ρ= <8>互协方差函数：此处为不同随机过程 设(){}(){} ,,X t t T Y t t T ∈∈和是两个二阶矩过程，则称: ()()() ( )()()(),,,XY X Y B s t E X s m s Y t m t s t T ??=--∈?? 为(){}(){} ,,X t t T Y t t T ∈∈和的互协方差函数，称： ()()(),,,XY R s t E X s Y t s t T =∈????,为(){}(){} ,,X t t T Y t t T ∈∈和的互相关函数。 若果对任意的,s t T ∈有(),XY B s t =0.则称(){}(){} ,,X t t T Y t t T ∈∈和互不相关。 显然有(),XY B s t =()()(),-XY X Y R s t m s m t 两个随机过程若相互独立，则必互不相关，反之不一定成立，只有当正态过程的情况下两者等价。 <9>随机序列的数字特征： ()()(){}()()(){}()()()(){}()()()()()()()()(){}(){}()()()(){}()()()(){}222,,=,,,,,,.x x x x x x x x x y n E X n X n n T n E X n X n n T n D n D X n X n n T C m n Cov X m X n E X m m X n n X n n T m n E X m X n X n n T m n E X m Y n X m m T Y μσμ μ=∈??????ψ=∈??=∈????==--∈????=∈????=∈????，1.函数为，的均值函数；2.为，的均方值函数； 3.,为，的方差函数； 4.为，的 协方差函数； 5.R 为，的自相关函数； 6.R 为，(){}()()()()()()(){},,xy x y n n T C m n E X m m Y n n μ μ∈=--，的互相关函数；7.互协方差函数。 11.复随机过程： 设()(),,t t X t T Y t T ∈∈和是取实数值的两个随机过程，若对任意t T ∈，t t t Z X iY =+其中 21i =-，则称{},t Z t T ∈为复随机过程。 12.数字特征：（以X,Y 为二阶矩过程） ()()()()( )()()()()()() ()()()()()()()()()()()() 2 ,1 ;; ,; ,;,=,, 1.2...,,,,Z t t t Z t Z t Z t Z Z s t Z s Z t Z Z Z i i n Z i j i j i j Z Z Z Z m t E Z EX iEY D t E Z m t E Z m t Z m t R s t E Z Z B s t E Z m s Z m t B s t B s t t T i n B t t a a B s t R s t m s m t ===+??=-=--??=??=--?? ∈=≤ =-∑性质： 对称性：；非负定性：对任意的及复数a 有0 （6）两个复随机过程{}{}t t X Y 的互相关函数、互协方差函数： ()() ()()()()(),,; XY s t XY s X t Y R s t E X Y B s t E X m s Y m t =??=--?? （7）重要的随机过程： <1>正交增量过程： 设(){} ,X t t T ∈是零均值的二阶矩过程，若对任意的1234t t t t T <≤<∈,有 ()()()()21430E X t X t X t X t --=????????，则称其为正交增量过程。 ()()()()2,,min ,.X X X B s t R s t s t σ== <2>独立增量过程： 设(){} ,X t t T ∈是随机过程，若对任意的正整数n 和12....n t t t T <<<∈，随机变量 ()()()()()()21321,,n n X t X t X t X t X t X t ----相互独立，则称其为独立增量过程或可加 过程。 特点：他在任何不相重叠的时间间隔上过程状态的改变是相互独立的。 设(){} ,X t t T ∈独立增量随机过程。若对任意的s ∈为随机过程，若对任意的正整数 n 及12....n t t t <<<， ()()()()()()()()()()1111111111,....,0,/,....,/n n n n n n n n n n P X t x X t x P X t x X t x X t x P X t x X t x ------==>======且期条件分布 ，则称其 为马尔科夫过程。 系统在已知现在所处的状态的条件下，他将来所处的状态与过去所处的状态无关。 <4>正态过程和布朗过程： 设(){},X t t T ∈是随机过程，若对任意的正整数 n 和12....n t t t T <<<∈， ()()()()1 2 ,,...,n X t X t X t 是n 维正态随机变量，则称其为正态过程或高斯过程。 设(){} ,B t t -∞<<∞是随机过程,若： ()()() ()221.00; 2.3.,,0,,0, B s t B t B s N t s σσ=?-->独立、平稳增量它是过程；增量 则称其为布朗运动或维纳过程，当1σ=时，称为标准布朗运动。 设(){} ,B t t -∞<<∞是参数为2 σ的布朗运动，则： 1.对任意的t -∞<<∞，()()20,B t N t σ； 2.,a s t -∞<<<∞对任意， ()()()()()()()()()22 min ,,,min ,W E B s B a B t B a s a t a R s t s t σσ??--=--=?? 特别： 布朗运动是平稳独立增量过程，正态过程，马尔科夫过程、均方连续、均方可积、均方 不可导的二阶矩过程。 <5>维纳过程： 1.维纳过程(){} ,0W t t ≤为正态过程，每一个有限维分布均为正态分布。 2.它是独立正态随机变量之和，所以它是正态随机变量，由正态分布的性质知 ()()()()12,,...,n W t W t W t 服从N 维正态分布，因此() W t 为正态过程。 3.(){ } ,0W t t ≤经过下列变换得到的新过程还是维纳过程： ()()()()()()()21230,/,01/,0 0,0 ,0,0 c W t cW t c t tW t t W t t W t W t h W t t h >=≤>??=? =??=+-≤> <6>平稳过程： 设(){} ,X t t T ∈是随机过程，如果对任意的常数τ和正整数n ，12,,....,n t t t T ∈， 12,,....,n t t t T τττ+++∈， ()()()()()()()()1 2 1 2,,...,,,...,n n X t X t X t X t X t X t τττ+++与有相同的联合分布，则其 为严平稳过程或狭义平稳过程。其任意的有限维分布不随时间的推移而改变。分布函数与时 间无关 设(){} ,X t t T ∈是随机过程，如果： 1.(){} ,X t t T ∈是二阶矩过程； 2.对任意()(),X t T m t EX t ∈==常数； 3.对任意的()()()(),,,,X X s t T R s t E X s X t R s t ∈==-????则其为广义平稳过程或宽平稳过程。 若T 为离散集则其为平稳序列。 广义平稳不一定是严平稳；严平稳只有其二阶矩存在时才为广义平稳。对正态而言同样适用。 K 阶严平稳： 对于严平稳而言，是指()()+X t X t c c 和为常数具有完全相同的统计特性。即对任意 的n 有()()12121212,,...,,,,...,,,...,,,,...,X n n X n n f x x x t t t f x x x t c t c t c =+++，若此式仅对n<=k 成立，则其即为K 阶严平稳。若此式对n=k 成立，则对n 当c →∞时，()+X t c 的任意n 概率密度与c 无关，即 ()1212lim ,,...,,,,...,X n n n f x x x t c t c t c →∞ +++存在，且与c 无关，即为渐进平稳。 循环平稳： 如果随机过程()X t 的分布函数满足下列关系： ()()12121212,,...,,,,...,,,...,,,,...,X n n X n n F x x x t t t F x x x t mT t mT t mT =+++ m 为整数T 为常数则其为严格循环平稳。 严格循环平稳信号不一定是严格平稳信号。 第三章 泊松过程 13.计数过程： 称随机过程()() ,0N t t ≤为计数过程，若()N t 表示到时刻t 为止已发生的”事件A ”的总数，且()N t 满足下列条件： ()()()()()()()()()()(]10; 23,4,-,N t N t s t N s N t s t N t N s s t ≤<≤<取正整数值；若则； 当时则等于区间中“事件A? 发生的次数。 2.独立增量计数过程： ()()()()()()1221321...,,...n n n t t t N t N t N t N t N t N t -<<<---对于独立。 3.平稳增量计数过程： (]()(),0,t t s s A N t s N t s +>+-在内，事件发生的次数仅与时间间隔有关， 而与初始时刻无关。 4.泊松过程： 称计数过程()() ,0X t t ≤ 为具有参数0λ>的泊松过程，若他满足下列条件： ()()()()()()(){}()100; 230,, 1.2.3.... ! n t X X t t A t s t P X t s X s n e n n λλλ-=>≤+-===是独立增量过程； 在任一长度为的区间内，事件发生的次数服从参数为的泊松分布， 即对任意0，有 注：泊松分布为平稳增量过程； ()() ,E X t t λλ=称为速率或强度。 4.泊松过程定义二： 称计数过程()() ,0X t t ≤为具有参数0λ>的泊松过程若他满足下列条件： ()()()()()()()(){}()()(){}()100; 231; ;2. X X t X t P X t h X t h h P X t h X t n h n λοο=+-==++-==≤是独立、平稳增量过程； 满足下列两式： 条件三说明：在充分少的时间间隔内，最多有一个事件发生，而不能有两个或两个以上的事件同时发生。 6.泊松过程的基本性质： <一>分布函数 （2）一维分布律： () ()()(){}()()(),1,2,3... ! , 1.2.3....! 000 k t n t t P X t k e k k t P X t s X s n e n n s X s X λλλλ--== =???? +-== ==== （3）一维特征函数：()(){} exp 1iu X g u t e λ=- （4）二维分布律：()()() (),,0!! k j k j t s t s P X s j X t k e s t j k j λλ---=== < （5）数字特征：设()() ,0X t t ≤是泊松过程，对任意的[),0,s t ∈∞,且s t <有： ()()()()()()()()()()()()()()()2,00,, , ,1,,,,min ,. X X X X X E X t X s D X t X s t s X m t E X t t t D X t t R s t t s B s t s B s t s t λλσλλλλλ-=-=-????????===????==????=+==由于故一般而言：泊松过程的协方差函数可以表示为： （6）性质：泊松过程是平稳独立增量过程；是马尔科夫过程；是生灭过程；是均方连续、均方可积、均方不可导的二阶据过程；是非平稳过程、但为平稳增量过程。 <二>与时间特征有关的分布： 1.设()() ,0X t t ≤是泊松分布，()X t 表示t 时刻事件A （顾客出现）发生的次数，n W 表示第n 次事件A 发生的时间（n>=1）,也称第n 次事件A 的等待时间，或到达时间，n T 表示第n-1此事件A 发生到第n 次事件A 发生的时间间隔。 2.时间间隔的分布：设()() ,0X t t ≤是为具有参数0λ>的泊松分布，{},1n T n >=是对应的时间间隔序列，则随机变量n T 是独立同分布的均值为1指数分布。n T 的概率密度为： (),00,0 n t T e t f t t λλ-?>==? 3.等待时间的分布：等待时间n W 即第n 次事件A 到达的时间。()1 ,1n n i i W T n == >=∑。 设(),1n W n >=是与泊松过程()() ,0X t t >=对应的一个等待时间序列，则n W 服从参数为 n λ和Γ分布。其概率密度为： ()()()1 ,01! 0,0 n n t W t e t f t n t λλλ--?>=?=-?? 2 ;;n n n n W n EW n DW n g u iu λλλλ=== - 2.到达时间的条件分布：假设在[]0,t 内事件A 已经发生了一次，这一事件到达时间1W 的概率： (){}(){}(){} ()()(){} (){}(){}()(){} (){} 11,1111,01101P W s X t P W s X t P X t P X s X t X s P X t P X s P X t X s s t P X t ≤=≤====-====-== = = 即概率密度为：()()1 11 ,00,W X t s t f s t =?≤ 事件的到达时间[0,t]上服从均匀分布。 5.设()() ,0X t t ≤是泊松分布，已知在[]0,t 内事件A 已经发生了n 次，则这n 次到达时间 12,,...,n W W W 与相应于n 个[]0,t 上的均匀分布的独立随机变量的顺序统计量有相同的分 布。12,,...,n W W W 在()X t n =的条件下的联合概率密度函数： ()()1212! ,0,...,,,...,0n n n n t t t t f t t t X t n t ?<<<< <三>非齐次泊松分布： 1.计数过程()() ,0X t t ≤为具有跳跃强度函数()t λ的非齐次泊松过程，他满足下列条件： ()()()()()()(){}()()()(){}()100; 231,2. X X t P X t h X t t h h P X t h X t h λοο=+-==++->==是独立增量过程； 2.均值函数：()()0 t X m t s ds λ=? 3.方差函数：()()()0 t X D t D X t s ds λ==????? 4.概率分布：设()() ,0X t t ≤为具有均值函数()()0 t X m t s ds λ=? 的非齐次泊松分布则有： ()(){} ()()()(){} (){} ()(){} exp ;0!exp ! n X X X X n X X P X t s X t n m t s m t m t s m t n n P X t n m t m t n +-=+-????=-+->=????=????=-????或 <四> 复合泊松过程 1.设()() ,0N t t ≤是强度为λ的泊松过程，{}, 1.2.3....k Y k =是一列独立同分布随机变量，且与 ()() ,0N t t ≤独立，令()() 1 ,0N t k k X t Y t == >=∑则称()(),0X t t ≤为复合泊松过程。 2.设()()1 ,0N t k k X t Y t == >=∑则称()(),0X t t ≤为复合泊松过程则： ()(){}()()()()(){}()11,02exp 1. Y X t Y X t t X t g u t g u g u λλ>==-????是独立增量过程； 的特征函数为其中是随机变量Y 的特征函数，是事件的到达率 。 第四章 马尔科夫链 1.定义： 设有随机过程{},n X n T ∈若对任意的整数n T ∈和任意的121,,...,n i i i I +∈,条件概率满足()()111111,...,n n n n n n n n p x i x i x i p x i x i ++++======则称其为马尔科夫链。 2.马尔科夫链的统计特性完全有条件概率()11n n n n p x i x i ++==决定。 3.一步转移概率 称条件概率()() 1p x j x i n ij n n p ==+=为马尔科夫链{},n X n T ∈在时刻n 的一步转移概率。,i j I ∈,若()ij p n 与n 无关，则称马尔科夫链为齐次的。 ();0;1;,ij ij ij ij j I p n p p p j i I ∈=>==∈∑ 4.n 步转移概率 称() ()n p x j x i m m n ij p ==+=,i j I ∈0,1m n >=>=为马尔科夫链{},n X n T ∈的n 步转移概率。() () 0;1;,n n ij ij j I p p j i I ∈>==∈∑ 5.n 步转移矩阵。 () () () n n ij P p =；() ()()10 11;0;;;ij ij ij i p p P P j p i j =?=? ≠==? 6.() n p ij 具有如下性质： 设{},n X n T ∈为马尔科夫链，则对任意整数n>=0,1= () ()()11112........n n i k I k I l n l n p p p p p p ij ik kj ik k k I k k j --∈∈-=∑∈= ∑∑ ； () ()1n n n P P PP -== 7初始概率：()0i p p X i == 8.初始概率向量：()()120,....T P p p = 9.初始分布：{},i p i I ∈ 10绝对概率：()()j n p n p X j == 11绝对概率向量：()()()()12,....T P n p n p n = 12绝对分布：(){} ,j p n j I ∈ 13性质如下：()()()() 10;n T T T P n P n P P P =-=()()()1;n j i ij i ij i I i I p n p p p n p ∈∈==-∑∑ 14马氏链的有限维分布： 设{},n X n T ∈为马氏链，则对任意的12,,...,;1n i i i I n ∈≤有 {}11....11,....,n n i I p p p i ii i i n n p X i X i ∈-===∑完全有初始概率和一步转移概率决定。 15状态i 的周期d 【决定状态是否为周期的】 ()() {} ..:0,0n ii d d i G C D n n p ==≤>； 如果d>1,则称状态为周期的； 如果d=1则其为非周期的。 16首达概率： () ( ),11,/,1n i j m v j m n m f p X v n X j X i n + ≠+=≤≤- ==≤为质点有i 出发，经过n 步首次到达j 的概率，称为首达概率。 记()1 n ij ij n f f =∞ =∑；规定()0 0ij f =为质点有i 出发，经过有限步到达j 的概率。 【决定是否为常返的】 若ii f =1，则称状态i 为常反的；常返的充要条件()0 n ii n p =∞ =∞∑；当i 为常反时，返回i 的次数是无限多次。 若ii f <1,则称状态i 为非常反的（瞬时状态）。 ()0 1 1n ii ii n p f ∞ == -∑；当i 为非常反时，返回i 的次数只能是有限多次。若状态i 为非常反的，则以概率1ii f -不再返回到i.; 17平均首次返回时间：【决定是为正还是零】 对于常返态i,() { } ,1n ii f n ≤构成一概率分布，此分布的期望值() 1 n nf i ii n μ=∞=∑表示为由i 出发再返回到i 的平均返回时间。 若i μ<∞,则称常返态i 为正常返的。若i μ=∞则称常返态i 为零常返的。非周期的正常返态称为遍历状态。 18()() ,n n p f ij ij 关系 对于任意状态i,j 及1n ≤<∞有() ()()()() 10 n n k n k n k k n p f p f p ij ij jj ij j k j k -=-=∑∑==； ()()()()11 n k n k n n f p f p ij ij ij jj k --=-∑= ()()()()()()()()()122 1;;33122f p f p f p ij ij ij ij ij jj f p f p f p ij ij ij jj ij jj ==-=-- () ()1n n P P P -=；() {}(){} ..:0,0..:0,0n n ii ii G C D n n p G C D n n f ≤>=≤> 19平均次数： ()1 n n jj p =∞ ∑表示有j 出发再返回j 的平均次数。 当j 是常返态时，返回的次数是无限多次。 当j 为非常反时，返回j 的次数只能是有限多次。 20超限概率 ()()()01/n i n i n m n m g p ij n X j X i p n X j p X j ∞∞===?? ======?? ?? 有无限多个使有无限多个使 对任意状态i 有,0f j ij g ij j ??=???如是常返 如非常返 ， 状态i 常返当且仅当1ii g =状态i 非常返当且仅当0ii g = 21. 设i 常返且有周期d,则()lim nd d p ii n i μ= →∞，其中i μ为i 的平均返回时间。当i μ=∞时， 0i d μ= 设i 常返则若i 零常返()lim 0nd p ii n ?=→∞ ；若i 遍历()1lim 0nd p ii n i μ? =>→∞ 22状态的可达与互通： 状态i 可达状态j,i j →：存在0n >使() 0n ij p >； 状态i 与状态j 互通，i j ?：i jandi j →← 可达与互通都具有传递性：即：,,i j j k i k i j j k i k →→→???则；则 如果i j ?则：ij 同为常返或非常返，如为常返，则同时为正常返或零常返；两者具有相同的周期。互通关系的状态为同一类型。 23状态空间的分解： 状态空间I 的子集C 称为闭集{闭集是不可约的【不可约的充要条件对,i k C ∈都有 ()0n p ik >，n>0】，闭集的充要条件：;i C k C ∈?都有()0n p ik =，n>0。} 如果：1ii p =则称状态i 为吸收的，等价于单点集{}i 为闭集。一个吸收状态构成的闭集是最小的；整个状态空间构成的闭集是最大的闭集；状态空间I 中所有常返态组成一闭集C. 不可约的马尔科夫链() ,m ,P n m n ??≤中无零元?任何两个状态都互通?没有常返 状态或没有非常返状态 任一马尔科夫链的状态空间I ，可唯一的分解成有限个或可列个互不相交的子集 12,,...D C C 之和，使得：每一个n C 是常返态组成的不可约闭集；n C 中的状态同类型，或全 是正常返或全是零常返，它们有相同的周期，1ik f =，,n i k C ∈；D 是全体非常返态组成，自n C 中的状态不能达到D 中的状态。12....n I D C C C = 24分解定理说明： 状态分为非常返态D 与常返态C ，C 又可按互通关系分为有限个互不相交的基本常返闭集12,...C C 从D 出发，或一直停留在D 中，或在某一时刻进入i C ，一旦进入。永不离开。 从某一i C 出发：停留在这一常返闭集中。 25不可约马尔科夫链的分解： 周期为d 的不可约马尔科夫链，其状态空间C 可唯一的分解为d 个互不相交的子集之 和即1 ;,d r r s r C G G G r s φ-== =≠且使得从r G 中任意状态出发经一步转移必进入1r G +中， 0d G G =，任意取定一状态i ，对每一0,1,...,1r d =-，定义集 () {} :,0nd r r ij G j n p +=≤>对某个0。马氏链如果其状态空间不可约，则称其不可约的。 如果只在0，d,2d...上考虑{}n X ，记得一新马氏链{}nd X ，其转移矩阵() ()() d d ij P p =。 对于新链，每一r G 是不可约闭集且r G 中的状态是非周期的。 如果原链常返，则新链宜常返； 26有限马氏链的性质 不可能全是非常返态 没有零常返态 必有正常返态 不可约的有限马氏链只有正常返态 27渐进性质 如j 非常返或零常返则() lim 0n p ij n =→∞ i I ?∈ 有限状态的马氏链不可能全是非常返状态，也不可能含有零常返状态，从而不可约的有限状态的马氏链必是正常返。 如果马氏链有一个零常返态，则必有无限多个零常返态。 如果j 正常返，周期为d 对任意的i 及01r d ≤≤-有 ()() ()()0 lim ,ij md r ij ij m j nd r p ij n d f r f r f μ∞ +=+→∞==∑ 设不可约、正常返、周期d 的马氏链，其状态空间为C ，则对一切 i,j C ∈()s lim ;i.0;j j nd p ij n d fouze μ→∞ ??=??? 同属于子集G 如果j 为遍历的，d=1: () ()()() lim 1 0,0ij md ij ij m j n p ij n f f f μ∞ =→∞==∑ ;() ( ) 1 lim 1 m ij m j n p ij n f μ∞ =→∞ = ∑ 对任意状态i,j ()0,j 1lim ,1n k f p ij ij n j n k j μ =∑→∞=?????非常返或零常返 正常返 如{}n X 不可约、常返，则对任意状态i,j ()1lim 11 = j n k p ij n n k μ∑→∞= 28平稳分布 设{},0n X n ≤为齐次马尔科夫链，状态空间为I ，转移概率为ij p 。 概率分布{} ,j j I π∈为马尔科夫链平稳分布,他满足： ,1;0j i i j i I j j j I p ππππ∈∈?=??=≤?? ∑∑注：若初始概率分布为平稳分布，则()()1...j j j p p p n ===；平稳 分布的矩阵形式() () () () () .n n n j ij P P p ππππ=== 不可约非周期马氏链是正常返的充要条件是存在平稳分布，且此平稳分布就是极限分布 1,j j I μ?? ∈ ? ??? 有限状态的不可约非周期马氏链必存在平稳分布； 不可约马氏链的所有状态是非常返或零常返，则不存在平稳分布。 {},j j I π∈为不可约非周期马尔科夫链平稳分布,则()lim 1 =j j p j n n πμ →∞= 对于马氏链： 平稳分布不存在C φ?= 平稳分布唯一存在?只有一个基本正常返闭集C 平稳分布有多个?多个不可约的常返闭集i C 第五章 连续时间马尔可夫链 1.定义： 时间连续、状态离散的马尔科夫过程。 设随机过程()() ,0X t t ≤，状态空间{}0,1,...I =,若对任意的110.....n t t +≤<< 121,,...,n i i i I +∈及有 ()()()()()111111,...,n n n n n n n n p X t i X t i X t i p X t i X t i ++++======???????? 则称其为连续时间马尔科夫链。 马尔可夫过程的任意有限维分布函数均可用它的初始分布和二维条件分布函数来确定。 转移概率： 在s 时刻处于状态i ，经过时间t 后转移到状态j 的概率: ()()()() ,ij p s t p X t s j X s i =+== 齐次转移概率： ()(),ij ij p s t p t =(转移概率与起始时刻s 无关，只与时间间隔t 有关) 转移概率矩阵： ()(){} ,,,0ij P t p t i j I t =∈≤. 2.齐次马尔科夫过程的性质： ()()()()()0; 1;ij ij ij ik kj j I k I p t p t p t s p t p s ∈∈>==+=∑∑； ()()()P s t P s P t += 3.转移概率的正则性条件: ()0 1,lim 0,ij t i j p t i j →=?=? ≠? 过程刚进入某状态不可能立即又跳跃到另一状态。 4.初始概率 ()()() 00,i i p p p X i i I ===∈ 5.绝对概率 ()()() ,,0j p t p X t j j I t ==∈≤ ()()()()()()()()()()()()()11211112110;1;; ; ..........; n n j j j i ij j I i I j i ij i I n n i ii i i i i n n i I p t p t p t p p t p t p t p p X t i X t i p p t p t t p t t ττ-∈∈∈-∈>===+====--∑∑∑∑ 6.初始分布(),i p i I ∈ 7.绝对分布()() ,,0j p t j I t ∈≤ 8.停留时间的概率： i τ为过程在状态转移之前停留在状态i 的时间，则对,0s t >=有： 1>()()i i i p s t s p t τττ>+>=>; 2>i τ服从参数为i ν指数分布，()1i i x F x e ντ-=-； 当i ν无穷时：()()()1,10i i i F x p x F x τττ=>=-= 状态i 的停留时间i ν 超过x 的概率为0，则称状态i 为瞬时状态; 当i ν=0时：()()()0,11i i i F x p x F x τττ=>=-= 状态i 的停留时间i ν 超过x 的概率为0，则称状态i 为吸收状态; 3>当过程离开状态时，接着以概率ij p 进入j 状态. 在状态i 过程停留的时间与下一个到达的状态必须是相互独立的随机变量。 9.科尔莫戈罗夫微分方程 齐次马尔可夫过程满足正则性条件，则对于任意i ,j ∈I,()ij p t 是t 的一致连续函数 科尔莫戈罗夫向后方程：()()'P t QP t =； 科尔莫戈罗夫向前方程：()()'P t P t Q =：()'P t 为()P t 的导数。 ()'P t =()()'ij p t =()ij dp t dt ?? ??? 初始条件：()1;00;ij i j p i j =?=? ≠? 若Q 为一个有限矩阵则有：()() ! j Qt j Qt P t e j ∞ ===∑ 10转移速率： ()ij p t 是齐次马尔可夫过程的转移概率，在下列极限存在： 1）() 01lim ii i ii t p t q t ν?→-?==≤∞?； 2）()0 lim .ij ij t p t q i j t ?→?=<∞≠?。 3）ij q 为齐次马尔可夫过程从状态i 到状态j 的转移速率； 4）对有限齐次马尔可夫过程ii ij i j q q ≠= <∞∑； 5）对状态空间无限的齐次马尔可夫过程ii ij i j q q ≠>=∑。 11Q 矩阵 ()()()'0;'0;'0ii ii ij ij Q P q p q p ==-= 12绝对概率 齐次马尔可夫过程在t 时刻处于状态j I ∈的绝对概率()j p t 满足方程: ()()()';j k kj j jj k j p t p t q p t q ≠=-∑ ()();j i ij i I p t p p t ∈=∑ ()()()';ij ik kj ij jj k j p t p t q p t q ≠=-∑ 13.互通 设()ij p t 是连续时间马尔可夫链的转移概率，若存在时刻12t t ，使得()10ij p t >， ()20ij p t >，则称状态i 与j 是互通的。若所有状态都是互通的，则称此马尔可夫链为不可约的。 14.渐近性质 设时间连续的马尔可夫链为不可约的，具有如下性质： 1）若其为正常返的则()lim 0,ij j t p t j I π→∞ ?=>∈。j π为方程组 1j jj k kj k j j i I q q πππ≠∈?=?? =??∑∑的唯一非负解，此时称(),j j I π∈是该过程的平稳分布并且有 ()lim j j t p t π→∞ = 2）若其为零常返或非常返的，则()()lim lim 0,i,ij j t t p t p t j I →∞ →∞ ==∈ 15生灭过程 设其次马尔科夫过程()() ,0X t t ≤的状态空间为{}1,2,....I =，转移概率为()ij p t 如果： ()()()()()() ()()()()() ,1,10,,j ;0;0,01;,2i i i i i i i i i i i i i p h h h p h h h p h h h p h h i j λλμμμμλ+-?=+>? =+>=?? =-++??=≤-?。则称其为生灭过程i λ为出生率i μ为死亡率。 ,,.i i i i λλμμμλ==为正常数，则称其为线性生灭过程。 若i μ=0则为纯生过程。若i λ=0则为纯灭过程 平稳分布存在的充要条件：011112........j j j λλλμμμ∞ -=<∞∑11 j j j j λππμ--= 第六章 平稳过程 1.严平稳过程 设(){} ,X t t T ∈是随机过程，如果对任意的常数τ和正整数n ，12,,....,n t t t T ∈， 12,,....,n t t t T τττ+++∈()()()()12,,...,n X t X t X t ()()()()12,,...,n X t X t X t τττ+++ 有相同的联合分布，则其为严平稳过程或狭义平稳过程。 ()()12121212,,...,;,,...,,,...,+;,,...,n n n n F t t t x x x F t t t x x x τττ=++； 严平稳过程的统计特征是由有限维分布函数决定的： ()()()()1111111,,0,F t x F t t x F x F x =-== 严平稳过程的一维分布函数不依赖与时间； ()()()()12121121121212,,,,,,0,,,,,F t t x x F t t t t x x F x x F x x ττ=--== 维分布函数仅仅依赖于时间间隔τ，而与12t t 个别值无关。 其任意的有限维分布不随时间的推移而改变。分布函数与时间无关。 2.宽平稳过程 设(){} ,X t t T ∈是随机过程，如果： 3.>(){} ,X t t T ∈是二阶矩过程； 4.>对任意()(),X t T m t EX t ∈==常数； 5.>对任意的()()()(),,,,X X s t T R s t E X s X t R s t ∈==-????则其为广义平稳过程或宽平稳过程。 若T 为离散集则其为平稳序列。 宽平稳不一定是严平稳；严平稳只有其二阶矩存在时才为宽平稳。对正态而言两者互通。 3.复平稳过程 设(){} ,Z t t T ∈是复随机过程，如果： 4.>(){} ,Z t t T ∈是二阶矩过程；()( )2 E Z t <+∞ 6.>对任意(),t T m EZ t ∈==复常数； 7.>对任意的()()()(),E Z t Z t R t t R τττ??+=+=?? 则其为复平稳过程。 ()R τ称为自相关函数。()()2 C R m ττ=-为其自协方差函数。 4.联合平稳过程 设(){ },X t t T ∈(){},Y t t T ∈是两个平稳过程，若他们的互相关函数 ()()E X t Y t τ??-? ? 及()()E Y t X t τ??-? ? 仅与τ有关，而与t 无关则称 (){},X t t T ∈(){},Y t t T ∈是联合平稳随机过程。 随机过程考试试题及答案详解 1、（15分）设随机过程C t R t X +?=)(，),0(∞∈t ，C 为常数，R 服从]1,0[区间上的均 匀分布。 （1）求)(t X 的一维概率密度和一维分布函数； （2）求)(t X 的均值函数、相关函数和协方差函数。 【理论基础】 （1）? ∞ -= x dt t f x F )()(，则)(t f 为密度函数； （2）)(t X 为),(b a 上的均匀分布，概率密度函数?? ???<<-=其他,0,1 )(b x a a b x f ，分布函数 ?? ??? >≤≤--<=b x b x a a b a x a x x F ,1,,0)(，2)(b a x E += ，12)()(2a b x D -=； （3）参数为λ的指数分布，概率密度函数???<≥=-0,00 ,)(x x e x f x λλ，分布函数 ?? ?<≥-=-0 ,00,1)(x x e x F x λ，λ1)(=x E ，21 )(λ=x D ； （4）2 )(,)(σμ==x D x E 的正态分布，概率密度函数∞<<-∞= -- x e x f x ,21 )(2 22)(σμπ σ， 分布函数∞<<-∞= ? ∞ --- x dt e x F x t ,21)(2 22)(σμπ σ，若1,0==σμ时，其为标准正态分布。 【解答】本题可参加课本习题2.1及2.2题。 （1）因R 为]1,0[上的均匀分布，C 为常数，故)(t X 亦为均匀分布。由R 的取值范围可知， )(t X 为],[t C C +上的均匀分布，因此其一维概率密度?? ???+≤≤=其他,0,1 )(t C x C t x f ，一维分布 函数?? ??? +>+≤≤-<=t C x t C X C t C x C x x F ,1,,0)(； 分形维数算法． 分形维数算法 分形包括规则分形和无规则分形两种。规则分形是指可以由简单的迭代或者是按一定规律所生成的分形，如Cantor集，Koch曲线，Sierpinski海绵等。这些分形图形具有严格的自相似性。无规则分形是指不光滑的，随机生成的分形， 如蜿蜒曲折的海岸线，变换无穷的布朗运动轨迹等。这类曲线的自相似性是近 似的或统计意义上的，这种自相似性只存于标度不变区域。 对于规则分形，其自相似性、标度不变性理论上是无限的（观测尺度可以趋于无限小）。不管我们怎样缩小（或放大）尺度（标度）去观察图形，其组成部分和原来的图形没有区别，也就是说它具有无限的膨胀和收缩对称性。因些对于这类分形，其计算方法比较简单，可以用缩小测量尺度的或者不断放大图形而得到。分形维数 D=lnN(λ)/ln(1/λ) （2-20） 如Cantor集，分数维D=ln2/ln3=0.631；Koch曲线分数维 D=ln4/ln3=1.262; Sierpinski海绵分数维D=ln20/ln3=2.777。 对于不规则分形，它只具有统计意义下的自相似性。不规则分形种类繁多，它可以是离散的点集、粗糙曲线、多枝权的二维图形、粗糙曲面、以至三维的[26]。点 集和多枝权的三维图形，下面介绍一些常用的测定方法（1）尺码法 用某个选定尺码沿曲线以分规方式测量，保持尺码分规两端的落点始终在曲线上。不断改变尺码λ，得到一系列长度N（λ），λ越小、N越大。如果作lnN～lnλ图后得到斜率为负的直线，这表明存在如下的幂函数关系 -D（2-21） N～λ上式也就是Mandelbrot在《分形：形状、机遇与维数》专著中引用的Richardson公式。Richardson是根据挪威、澳大利亚、南非、德国、不列颠西部、葡萄牙的海岸线丈量结果得出此公式的，使用的测量长度单位一般在1公里到4公里之间。海岸线绝对长度L被表示为： 1-D（2-22）L=Nλ～λ 他得到挪威东南部海岸线的分维D≈1.52，而不列颠西部海岸线的分维D≈[27]。。这说明挪威的海岸线更曲折一些1.3． ）小岛法（2面积如果粗糙曲线都是封闭的，例如海洋中的许多小岛，就可以利用周长-关系求分维，因此这个方法又被称为小岛法。则与λ的而面积A对于规则图形的周长与测量单位尺寸λ的一次方成正比， 二次方成正比。通常我们可以把它们写成一个简单的比例关系：1/2 (2-23) AP∝对于二维空间内的不规则分形的周长和面积的关系显然更复杂一些，提出，应该用分形周长曲线来代替原来的光滑周长，从而给出了下Mandelbrot 述关系式：21/??D??1/1/D2）（2-24)]?(?)]?[a?AP[(?)][??a(1?D)/DA(?00的P）式），使1（周长光滑时D=1，上式转化成为（2.23这里的分维D大于??的数1变化减缓，a是和岛的形状有关的常数，为小于是测量尺寸，一般取0/D）（1-D??减小而增大。作随测 （1） 设}0),({≥t t X 是一个实的零均值二阶矩过程，其相关函数为 t s s t B t X s X E ≤-=),()}()({，且是一个周期为T 的函数，即0),()(≥=+τττB T B ，求方差函数)]()([T t X t X D +-。 解：由定义，有： )(2)0()0()}()({2)0()0()]} ()()][()({[2)] ([)]([)]()([=-+=+-+=+-+--++=+-T B B B T t X t X E B B T t EX T t X t EX t X E T t X D t X D T t X t X D （2） 试证明：如果}0),({≥t t X 是一独立增量过程，且0)0(=X ，那么它必是一个马 尔可夫过程。 证明：我们要证明： n t t t <<<≤? 210，有 } )()({})(,,)(,)()({11112211----=≤=====≤n n n n n n n x t X x t X P x t X x t X x t X x t X P 形式上我们有： } )()(,,)(,)({} )()(,,)(,)(,)({} )(,,)(,)({} )(,,)(,)(,)({})(,,)(,)()({1122221111222211112211112211112211--------------========≤= ======≤=====≤n n n n n n n n n n n n n n n n n n n n x t X x t X x t X x t X P x t X x t X x t X x t X x t X P x t X x t X x t X P x t X x t X x t X x t X P x t X x t X x t X x t X P 因此，我们只要能证明在已知11)(--=n n x t X 条件下，)(n t X 与2 ,,2,1,)(-=n j t X j 相互独立即可。 由独立增量过程的定义可知，当2,,2,1,1-=<<<-n j t t t a n n j 时，增量 )0()(X t X j -与)()(1--n n t X t X 相互独立，由于在条件11)(--=n n x t X 和0)0(=X 下，即 有)(j t X 与1)(--n n x t X 相互独立。由此可知，在11)(--=n n x t X 条件下，)(n t X 与 2,,2,1,)(-=n j t X j 相互独立，结果成立。 （3） 设随机过程}0,{≥t W t 为零初值（00=W ）的、有平稳增量和独立增量的过程， 且对每个0>t ，),(~2t N W t σμ，问过程}0,{≥t W t 是否为正态过程，为什么？ 解：任取n t t t <<<≤? 210，则有： n k W W W k i t t t i i k ,,2,1][1 1 =-=∑=- 1．设随机变量X 服从参数为λ的泊松分布，则X 的特征函数为 。 2．设随机过程X(t)=Acos( t+),- 《应用随机过程》课程教学大纲 课程代码：090541007 课程英文名称：Applications Stochastic Processes 课程总学时：40 讲课：40 实验：0 上机：0 适用专业：应用统计学 大纲编写（修订）时间：2017.6 一、大纲使用说明 （一）课程的地位及教学目标 随机过程是现代概率论的一个重要的组成部分，其理论产生于上世纪初期，主要是由物理学、生物学、通讯与控制、管理科学等方面的需求而发展起来的。它是研究事物的随机现象随时间变化而产生的情况和相互作用所产生规律的学科。随机过程的理论为许多物理、生物等现象提供诸多数学模型，同时为研究这类现象提供了数学手段。本课程为统计学专业的专业课程，通过本课程的学习，掌握随机过程的基本概念、基本理论、内容和基本方法，了解随机过程的重要应用，为后继课程学习提供知识准备，另一方面，随机过程的发展也是人们认识客观世界的一个重要组成部分，它有助于学生辩证唯物主义世界观的培养。 （二）知识、能力及技能方面的基本要求 1.基本知识：通过本科程的学习，使学生掌握，要求学生掌握随机过程的基本概念、二阶矩过程的均方微积分、马尔可夫过程的基本理论、平稳过程的基本理论、鞅和鞅表示、维纳过程、Ito定理、随机微分方程等理论和方法。 2.基本能力：通过本课程的学习，使学生能较深刻地理解随机过程的基本理论、思想和方法，并能应用其解决实践中遇到的随机问题，从而提高学生的数学素质，加强学生开展科研工作和解决实际问题的能力。 3.基本技能：掌握建立随机数学模型、分析和解决问题方面的技能，为进一步自学有关专业应用理论课程作好准备。 （三）实施说明 本大纲是根据沈阳理工大学关于制订本科教学大纲的原则意见专门制订的。在制订过 程中参考了其他学校相关专业应用随机过程教学大纲。 本课程思维方式独特，还需要学生有较高的微积分基础，教学中应注意概率意义的解 释和学生基础情况的把握，处理好抽象与具体，偶然与必然、一维与多维，理论与实践的关系。本课程内容分概率论与数理统计两部分，在教学中应充分注意两者之间的联系，重视基本概念，讲清统计思想。 （四）对先修课的要求 本课的先修课程：数学分析，高等代数，概率论。 （五）对习题课的要求 由于本课程内容多学时少，习题课在大纲中未作安排，建议教师授课过程中灵活掌 握；对于学生作业中存在的问题，建议通过课前和课后答疑解决。通过习题课归纳总结章节知识解决重点难点内容。 （六）课程考核方式 1.考核方式：考试 2.考核目标：在考核学生基本知识、基本原理和方法的基础上，重点考核学生解决实际问题的能力。 3.成绩构成：本课程的总成绩主要由两部分组成：平时成绩20-30％；期末成绩70-80％; 平时成绩构成：出勤，测验，作业。其中测验为开卷，随堂测验。 随机过程习题解答（一） 第一讲作业： 1、设随机向量的两个分量相互独立，且均服从标准正态分布。 （a）分别写出随机变量和的分布密度 （b）试问：与是否独立？说明理由。 解：（a） （b）由于： 因此是服从正态分布的二维随机向量，其协方差矩阵为： 因此与独立。 2、设和为独立的随机变量，期望和方差分别为和。 （a）试求和的相关系数； （b）与能否不相关？能否有严格线性函数关系？若能，试分别写出条件。 解：（a）利用的独立性，由计算有： （b）当的时候，和线性相关，即 3、设是一个实的均值为零，二阶矩存在的随机过程，其相关函数为 ，且是一个周期为T的函数，即，试求方差 函数。 解：由定义，有： 4、考察两个谐波随机信号和，其中： 式中和为正的常数；是内均匀分布的随机变量，是标准正态分布的随机变量。 （a）求的均值、方差和相关函数； （b）若与独立，求与Y的互相关函数。 解：（a） （b） 第二讲作业： P33/2．解： 其中为整数，为脉宽 从而有一维分布密度： P33/3．解：由周期性及三角关系，有： 反函数，因此有一维分布： P35/4. 解：(1) 其中 由题意可知，的联合概率密度为： 利用变换：，及雅克比行列式： 我们有的联合分布密度为： 因此有： 且V和相互独立独立。 （2）典型样本函数是一条正弦曲线。 （3）给定一时刻，由于独立、服从正态分布，因此也服从正态分布，且 所以。 （4）由于： 所以因此 当时， 当时， 由（1）中的结论，有： P36/7．证明： (1) (2) 由协方差函数的定义，有： P37/10. 解：（1） 当i =j 时；否则 令 ，则有 第三讲作业： P111/7．解： （1）是齐次马氏链。经过次交换后，甲袋中白球数仅仅与次交换后的状态有关，和之前的状态和交换次数无关。 （2）由题意，我们有一步转移矩阵： P111/8．解：（1）由马氏链的马氏性，我们有： （2）由齐次马氏链的性质，有： （2） 统计学一级学科硕士研究生培养方案（年修订） 专业代码： 一、培养目标 为适应教育面向现代化、面向世界、面向未来的目标，培养社会主义建设事业需要的高层次专门人才，要求统计专业的硕士研究生： 1.应具有较扎实的统计学理论基础； 2.应系统地掌握本专业基本理论、基本研究方法和技巧； 3.应具有较强的学术沟通能力和良好的团队协作精神； 4.应具备创新意识和独立科研能力； 5.应该熟练掌握一门外语，具有阅读外文资料和用外文写作论文的能力； 6.应具有熟练地使用计算机进行科学计算以及借助互联网查阅专业资料的能力； 7.身心健康，德才兼备。 二、培养方式与学习年限 ．培养方式 采用导师指导为主，导师与指导小组集体培养相结合的模式，通过课堂授课、专题讨论班、专家讲学、课题研究、参加学术报告（会议）等培养方式，使学生成为有学习积极性、主动性和创造性的高层次专门人才。 ．学习年限 本专业的硕士研究生学制为三年。 三、研究方向 实验设计，非参数估计，金融统计，风险管理。 四、课程设置 ．课程学习要求 要求每位研究生至少修满学分，其中学科基础课至少修满学分，专业主干课至少修满学分。考核分为考试与考查。必修课进行考试，选修课进行考试或考查。考试成绩按百分制计分，考查成绩采用五级记分制。 2.实践环节要求 实践容包括教案实践（为本科生授课、辅导、批改作业、指导大学生毕业论文等）与科研实践（参与具体的科研项目、科研咨询、课题调研，参加学术报告或学术会议等）。相关的要求见本培养方案有关条目。 3.科研成果数量要求 本专业的硕士研究生在学习期间至少发表（含录用）篇专业学术论文（除导师外，申请者须排名第一）。特殊情况下，经导师同意并经学院学术委员会认定达到毕业水平 北京邮电大学2012——2013学年第1学期 《概率论与随机过程》期末考试试题答案 考试注意事项：学生必须将答题内容（包括填空题）做在试题答题纸上，做在试卷纸上一律无效。在答题纸上写上你的班号和选课单上的学号，班内序号! 一. 单项选择题和填空题：（每空3分，共30分） 1.设A 是定义在非空集合Ω上的集代数,则下面正确的是 .A （A ）若A B ∈∈A,A ,则A B -∈A ; （B ）若A A B ∈?A,,则B ∈A ; （C ）若12n A n =∈?A,,,,则 1 n n A ∞=∈A ; （D ）若12n A n =∈?A,,,,且123A A A ??? ,则 1 n n A ∞ =∈A . 2. 设(),ΩF 为一可测空间，P 为定义在其上的有限可加测度，则下面正确的是 .c （A ）若A B ∈∈F,F ,则()()()P A B P A P B -=-； （B ）若12n A n =∈?F,,,,,且123A A A ??? ，则1 li ( )()m n n n n P A A P ∞→∞ ==； （C ）若A B C ∈∈∈F,F,F,，则()()()()P A B C P A P AB P A BC =++； （D ）若12n A n =∈?F,,,,,且,i j A i j A =??=/，1 1 ( )()n n n n P P A A ∞ ∞===∑. 3.设f 为从概率空间(),P ΩF,到Borel 可测空间(),R B 上的实可测函数，表达式为100 0()k A k f kI ω==∑，其中1000 ,, i j n n i j A A A ==??=Ω/=，则fdP Ω=? ； 应用随机过程试题及答案 一．概念简答题（每题5 分，共40 分） 1. 写出卡尔曼滤波的算法公式 2. 写出ARMA（p,q）模型的定义 3. 简述Poisson 过程的随机分流定理 4. 简述Markov 链与Markov 性质的概念 5. 简述Markov 状态分解定理 6．简述HMM 要解决的三个主要问题得分B 卷（共9 页）第2 页7. 什么是随机过程，随机序列？8．什么是时齐的独立增量过程？二．综合题（每题10 分，共60 分） 1 ．一维对称流动随机过程n Y , 0 1 0, , n n k k Y Y X ? ? ? ? 1 ( 1) ( 1) , 2 k k k X p x p x ? ? ? ? ? 具有的概率分布为且1 2 , , ... X X 是相互独立的。试求1 Y 与2 Y 的概率分布及其联合概率分布。 2. 已知随机变量Y 的密度函数为其他而且，在给定Y=y 条件下，随机变量X 的条件密度函数为? ? 其他试求随机变量X 和Y 的联合分布密度函数( , ) f x y . 得分B 卷（共9 页）第3 页 3. 设二维随机变量( , ) X Y 的概率密度为( ,其他试求p{x<3y} 4．设随机过程( ) c o s 2 , ( , ) , X t X t t ? ? ? ? ? ? X 是标准正态分布的随机变量。试求数学期望( ) t E X ，方差( ) t D X ，相关函数1 2 ( , ) X R t t ，协方差1 2 ( , ) X C t t 。B 卷（共9 页）第4 页5 ．设马尔科夫链的状态空间为I={0,1}, 一步转移概率矩阵为 ！ 第一章 随机过程基本概念 P39 1. 设随机过程()0cos X t X t ω=，t -∞<<+∞，其中0ω是正常数，而X 是标准正态变量。试求()X t 的一维概率分布。 解： 1 当0cos 0t ω=，02 t k π ωπ=+ ，即0112t k πω??= + ??? （k z ∈）时， ()0X t ≡，则(){}01P X t ==. 2 当0cos 0t ω≠，02 t k π ωπ≠+ ，即0112t k πω?? ≠ + ??? （k z ∈）时， ()~01X N ，，()0E X ∴=，()1D X =. ￥ ()[]()00cos cos 0E X t E X t E X t ωω===????. ()[]()22 000cos cos cos D X t D X t D X t t ωωω===????. ()()20~0cos X t N t ω∴，. 则( )2202cos x t f x t ω- = ；. 2. 利用投掷一枚硬币的试验，定义随机过程为 ()cos 2t X t t π?=??，出现正面，出现反面 假定“出现正面”和“出现反面”的概率各为 12。试确定()X t 的一维分布函数12F x ?? ???；和()1F x ；，以及二维分布函数12112 F x x ? ? ?? ? ，；， 。 】 解： 00 11101222 11 《应用随机过程A》课程教学大纲 课程编号： L335001 课程类别：专业限选课适用专业：统计学专业 学分数：3学分学时数： 48学时 应修（先修）课程：数学分析、概率统计、微分方程、高等代数 一、本课程的地位和作用 应用随机过程是数学与应用数学专业的专业限选课程，是统计学专业的专业课程之一。随机过程是研究客观世界中随机演变过程规律性的学科，随机过程的研究对象为随时间变化的随机现象，即随时间不断变化的随机变量，通常被视为概率论的动态部分。随着科学技术的发展，它已广泛地应用于通信、控制、生物、地质、经济、管理、能源、气象等许多领域，国内外许多高等工科院校在研究生中设此课程，大量工程技术人员对随机分析的方法也越来越重视。通过本课程的学习，使学生初步具备应用随机过程的理论和方法来分析问题和解决问题的能力。 二、本课程的教学目标 使学生掌握随机过程的基本知识，通过系统学习，学生的概率理论数学模型解决随机问题的能力得到更加进一步的提高，特别在经济应用上，通过本课程的学习，可以让数学专业的学生很方便地转向在金融管理、电子通讯等应用领域的研究。 三、课程内容和基本要求 ?”记号标记既（用“*”记号标记难点内容，用“?”记号标记重点内容，用“* 是重点又是难点的内容。） 第一章预备知识 1．教学基本要求 （1）掌握概率空间, 随机变量和分布函数, 矩母函数和特征函数的概念和相关性质。 （2）掌握条件概率, 条件期望和独立性的概念和相关性质。 （3）了解概率中收敛性的概念和相互关系。 2．教学内容 （1）概率空间 （2）▽随机变量和分布函数 （3）▽*数字特征、矩母函数和特征函数 （4）▽*条件概率、条件期望和独立性 （5）收敛性 第二章随机过程的基本概念和类型 1．教学基本要求 （1）掌握随机过程的定义。 （2）了解有限维分布族和Kolmogorov定理。 （3）掌握独立增量过程和独立平稳增量过程概念。 2．教学内容 （1）基本概念 （2）▽*有限维分布和Kolmogorov定理 （3）▽随机过程的基本类型 第三章 Poisson过程 1．教学基本要求 （1）了解计数过程的概念。 （2）掌握泊松过程两种定义的等价性。 （3）掌握泊松过程的到达时刻的分布、等待时间的分布和来到时刻的条件分布。（4）了解泊松过程的推广。 2．教学内容 （1）▽ Poisson过程 （2）▽* 与Poisson过程相联系的若干分布 （3）* Poisson过程推广 第四章更新过程 1．教学基本要求 （1）掌握更新过程的定义和基本性质。 （2）掌握更新函数、更新方程。 （3）了解更新定理及其应用，更新过程的若干推广。 （4）了解更新过程的若干推广。 2．教学内容 一．填空题（每空2分，共20分） 1．设随机变量X 服从参数为λ的泊松分布，则X 的特征函数为it (e -1) e λ。 2．设随机过程X(t)=Acos( t+),- 随机过程复习题 一、填空题： 1．对于随机变量序列}{n X 和常数a ，若对于任意0>ε，有 ______}|{|lim =<-∞ >-εa X P n n ，则称}{n X 依概率收敛于a 。 2．设}),({0≥t t X 是泊松过程，且对于任意012≥>t t ， ，则 15 92}6)5(,4)3(,2)1({-??= ===e X X X P , 618}4)3(|6)5({-===e X X P 15 32 62 32 92! 23!2)23(!23}2)3()5({}2)1()3({}2)0()1({} 2)3()5(,2)1()3(,2)0()1({} 6)5(,4)3(,2)1({----??=???==-=-=-==-=-=-====e e e e X X P X X P X X P X X X X X X P X X X P 66 218! 26}2)3()5({}4)3(|6)5({--===-===e e X X P X X P 3．已知马尔可夫链的状态空间为},,{321=I ，初始分布为),,(4 1 2141， ?????? ?? ????????? ?=434 103 13131043 411)(P ，则167)2(12=P ，161}2,2,1{210====X X X P ???????? ?????? ????=48 31481348 436133616367 164167165)1()2(2P P 16 7 )2(12=P 16 1 314341}2|2{}1|2{}1{}2,1|2{}1|2{}1{} 2,2,1{12010102010210=??=================X X P X X P X P X X X P X X P X P X X X P 4．强度λ的泊松过程的协方差函数),min(),(t s t s C λ= 5．已知平稳过程)(t X 的自相关函数为πττcos )(=X R ， )]()([)(π?δπ?δπω-++=X S 6. 对于平稳过程)(t X ，若)()()(ττX R t X t X >=+<，以概率1成立，则称)(t X 的自相关函数具有各态历经性。 7.已知平稳过程)(t X 的谱密度为2 3)(2 42 ++=ωωωωS ，则)(t X 的均方值= 2 121- 222 2221 1221)2(22211122)(+??-+??=+-+= ωωωωωS ττ τ-- -=e e R X 2 12 1)(2 《随机过程期末考试卷》 1 ?设随机变量X服从参数为■的泊松分布，则X的特征函数为 ___________ 。 2?设随机过程X(t)二Acos(「t+「),-：：vt<：：其中「为正常数，A和门是相互独立的随机变量，且A和“服从在区间10,1 1上的均匀分布，则X(t)的数学期望为。 3?强度为入的泊松过程的点间间距是相互独立的随机变量，且服从均值为_ 的同一指数分布。 4?设「W n ,n 一1是与泊松过程：X(t),t - 0?对应的一个等待时间序列，则W n服从分布。5?袋中放有一个白球，两个红球，每隔单位时间从袋中任取一球，取后放回， r 对每一个确定的t对应随机变量x(t)=」3’如果t时取得红球，则这个随机过 e t, 如果t时取得白球 程的状态空间__________ 。 6 ?设马氏链的一步转移概率矩阵P=(p j)，n步转移矩阵P(n)=8(；))，二者之间的关系为。 7?设汉.，n -0?为马氏链，状态空间I，初始概率P i二P(X。二i)，绝对概率 P j(n)二P^X n二j?，n步转移概率p j n)，三者之间的关系为_____________ 。 8 .设｛X(t),t 一0｝是泊松过程，且对于任意t2t^ 0则 P{X ⑸= 6|X (3) = 4} = _______ t 9?更新方程K t二H t ? .°K t-s dF s解的一般形式为__________________ 。10?记二-EX n,对一切a 一0,当t—一：时，M t+a -M t > ____________ 3.设］X n,n — 0?为马尔科夫链，状态空间为I，则对任意整数n—0,仁I 2.设{X (t ),t ≥0}是独立增量过程, 且X (0)=0, 证明{X (t ),t ≥0}是一个马尔科夫过程。 证明：当12n 0t t t t <<< <<时， 1122n n P(X(t)x X(t )=x ,X(t )=x ,X(t )=x )≤= n n 1122n n P(X(t)-X(t )x-x X(t )-X(0)=x ,X(t )-X(0)=x , X(t )-X(0)=x )≤= n n P(X(t)-X(t )x-x )≤，又因为n n P(X(t)x X(t )=x )=≤n n n n P(X(t)-X(t )x-x X(t )=x )≤= n n P(X(t)-X(t )x-x )≤，故1122n n P(X(t)x X(t )=x ,X(t )=x , X(t )=x )≤=n n P(X(t)x X(t )=x )≤ 3.设{}n X ,n 0≥为马尔科夫链，状态空间为I ，则对任意整数n 0,1 应用统计学本科专业人才培养方案专业代码授予学位理学学制四年 一、培养目标： 本专业培养具备统计学、数学和计算机基础知识，掌握统计学的基本思想、基本原理与方法以及相关的计算机技术，有较强的计算机应用能力，具有发现问题、分析问题的能力，能在企事业单位、金融机构、各级政府部门及相关研究机构从事统计核算、质量管理、市场调查分析、统计信息管理和数量分析等工作，或者在科研、教育部门从事研究和教案工作的复合型统计应用人才。 二、培养要求： 本专业学生主要学习统计学和数学的基本理论和基本知识，接受理论研究、应用技能和 使用计算机的基本训练，具有数据处理和统计分析的基本能力。 毕业生应获得以下方面的知识和能力： .具有良好的政治、思想、文化、道德、身体和心理素质，具有社会责任感； .具有扎实的数学基础，受到较严格的数学思维训练； .掌握扎实的统计学的基本理论、基础知识、基本方法和统计思想； .掌握数据搜集、整理、处理和分析的方法； .能够应用统计软件分析数据并正确解释计算结果； .了解熟悉社会经济统计、金融统计、企业统计等某一领域的基本知识，具有运用所学的理论知识分析和解决该领域实际问题的初步能力； .具有较高的外语水平，掌握中外文资料查询及文献检索及运用现代信息技术获取相关信息的基本方法； .具有一定的科学研究和实际工作能力； .具有较强的组织管理、交流沟通、环境适应和团队合作的能力。 三、修业年限 四——六年 四、主干学科： 数学、统计学。 五、主要课程： 数学分析、高等代数、概率论与数理统计、应用回归分析、应用时间序列分析、应用随 机分析、统计应用软件与统计分析，应用多元统计分析。 六、主要实践教案环节： 一、1.1设二维随机变量(,)的联合概率密度函数为： 试求:在时,求。 解： 当时，＝ ＝ 1.2 设离散型随机变量X服从几何分布： 试求的特征函数，并以此求其期望与方差。解： 所以： 2.1 袋中红球，每隔单位时间从袋中有一个白球，两个 任取一球后放回，对每 对应随机变量一个确定的t ?????=时取得白球如果对时取得红球 如果对t e t t t X t 3)( .维分布函数族试求这个随机过程的一 2.2 设随机过程 ，其中 是常数，与是 相互独立的随机变量，服从区间上的均匀分布，服从瑞利分布，其概 率密度为 试证明为宽平稳过程。 解：（1） 与无关 （2） ， 所以 （3） 只与时间间隔有关，所以 为宽平稳过程。 2.3是随机变量，且，其中设随机过程U t U t X 2cos )(=求：，.5)(5)(==U D U E .321）方差函数）协方差函数；（）均值函数；（（ 2.4是其中，设有两个随机过程U Ut t Y Ut t X ,)()(32==.5)(=U D 随机变量，且 数。试求它们的互协方差函 2.5， 试求随机过程是两个随机变量设B At t X B A 3)(,,+=的均值),(+∞-∞=∈T t 相互独若函数和自相关函数B A ,.),()(),2,0(~),4,1(~,21t t R t m U B N A X X 及则且立 为多少？ 3.1一队学生顺次等候体检。设每人体检所需的时间服从均值为2分 钟的指数分布并且与其他人所需时间相互独立，则1小时内平均有多少学生接受过体检？在这1小时内最多有40名学生接受过体检的概率是多少（设学生非常多，医生不会空闲） 解：令()N t 表示(0,)t 时间内的体检人数，则()N t 为参数为30的 poisson 过程。以小时为单位。 则((1))30E N =。 40 300 (30)((1)40)!k k P N e k -=≤=∑。 3.2在某公共汽车起点站有两路公共汽车。乘客乘坐1,2路公共汽车的强度分别为1λ，2λ，当1路公共汽车有1N 人乘坐后出发；2路公共汽车在有2N 人乘坐后出发。设在0时刻两路公共汽车同时开始等候乘客到来，求（1）1路公共汽车比2路公共汽车早出发的概率表达式；（2）当1N =2N ，1λ=2λ时，计算上述概率。 解： 法一：（1）乘坐1、2路汽车所到来的人数分别为参数为1λ、2λ的poisson 过程，令它们为1()N t 、2()N t 。1 N T 表示1()N t =1N 的发生时 刻，2 N T 表示2()N t =2N 的发生时刻。 1 11 1111111()exp()(1)! N N N T f t t t N λλ-= -- 2 22 1222222()exp()(1)! N N N T f t t t N λλ-= -- 1 2 121 2 1 2 2 1 112,12|1221 1122212(,)(|)()exp() exp() (1)! (1)! N N N N N N N N N T T T T T f t t f t t f t t t t t N N λλλλ--== ---- 通信原理期末考试试题及答案 一、填空题（总分24 ，共 12 小题，每空 1 分） 1、数字通信系统的有效性用传输频带利用率衡量，可靠性用差错率衡量。 2、模拟信号是指信号的参量可连续取值的信号，数字信号是指信号的参量可离 散取值的信号。 3、广义平均随机过程的数学期望、方差与时间无关，自相关函数只与时间间隔有 关。 4、一个均值为零方差为n2的窄带平稳高斯过程，其包络的一维分布服从瑞利分布， 相位的一维分布服从均匀分布。 5 、当无信号时，加性噪声是否存在？是乘性噪声是否存在？否。 6 、信道容量是指：信道传输信息的速率的最大值，香农公式可表示为： C B log 2 (1S ) 。 N 7、设调制信号为 f（t）载波为cos c t，则抑制载波双边带调幅信号的时域表达式为 f (t) cos c t，频域表达式为1 [ F ( c ) F ( c )]。2 8、对最高频率为 f H的调制信号 m （t ）分别进行 AM 、DSB 、SSB 调制，相应已调 信号的带宽分别为2f H、2f H、 f H。 9、设系统带宽为W ，则该系统无码间干扰时最高传码率为2W波特。 10 、PSK 是用码元载波的相位来传输信息， DSP 是用前后码元载波的相位差来传 输信息，它可克服PSK 的相位模糊缺点。 11 、在数字通信中，产生误码的因素有两个：一是由传输特性不良引起的码间串 扰，二是传输中叠加的加性噪声。 12 、非均匀量化的对数压缩特性采用折线近似时， A 律对数压缩特性采用13折线 近似，律对数压缩特性采用15折线近似。 二、简答题（总分18 ，共 4 小题） 1 、随参信道传输媒质的特点？（ 3 分） 答：对信号的衰耗随时间变化、传输的时延随时间变化、多径传播 2、简述脉冲编码调制的主要过程。(6 分) 抽样是把时间连续、幅值连续的信号变换为时间离散，幅值连续的脉冲信号；量化是 把时间离散、幅值连续的脉冲信号变换为幅值离散、时间离散的多电平脉冲信号；编 码是把幅值、时间均离散的多电平脉冲信号用一组数字序列表示。 3 、简单叙述眼图和系统性能之间的关系？（ 6 分） 最佳抽样时刻对应眼睛张开最大时刻；对定时误差的灵敏度有眼图斜边的斜率决定；图的阴影区的垂直高度，表示信号幅度畸变范围；图中央横轴位置对应判决门 限电平；抽样时刻上，上下阴影区的间隔距离之半为噪声容限。 4、简述低通抽样定理。（ 3 分） 一个频带限制在（ 0，f H）内的时间连续信号m(t) ，如果以T 1 2 f H的时间 间隔对它进行等间隔抽样，则m(t) 将被所得到的抽样值完全确定 2 、设信息序列为 100000000001100001 ，试编为 AMI 码和 HDB 3 码（第一个非零码编 为 +1 ），并画出相应波形。（6 分） 100000000001100001 AMI+10000000000-1+10000-1 HDB3 +1 0 0 0+V-B 0 0-V 0 0+1-1+B 0 0+V-1 +1 0 0 0+1-1 0 0-1 0 0+1-1+1 0 0+1-1 AMI HDB3最新随机过程考试试题及答案详解1
分形维数算法
中国科学大学随机过程(孙应飞)复习题及答案
随机过程试题带答案
《应用随机过程》教学大纲
随机过程习题答案A
统计学一级学科硕士研究生培养方案
(完整版)北邮研究生概率论与随机过程2012-2013试题及答案
应用随机过程试题及答案
随机过程作业题及参考答案(第一章)
应用随机过程教学大纲
随机过程试题及答案
随机过程复习题(含答案)
2017 2018期末随机过程试题及答案
随机过程复习试题及答案
应用统计学本科专业人才培养方案
随机过程习题和答案
通信原理期末考试试题及答案-(1).doc
相关主题
文本预览