应用随机过程Word文件下载.docx

应用随机过程Word文件下载.docx

《应用随机过程Word文件下载.docx》由会员分享，可在线阅读，更多相关《应用随机过程Word文件下载.docx（34页珍藏版）》请在冰豆网上搜索。

杜布是美国数学家，1910年10月27日生于辛辛那提，2004年6月7日卒于伊利诺伊。

杜布毕业于哈佛大学，1932年获博士学位。

他是美国国家科学院和美国科

学艺术研究院院士，伊利诺伊大学教授。

杜布的主要贡献是概率论。

他深入研究了随机过程理论，得出了任意的随机过程

都具有可分修正，建立了随机函数理论的公理结构。

他是鞅论的奠基人，虽然莱维等

人早在1935年发表了一些孕育着鞅论的工作，1939年莱维引进鞅”（martingale）这个名称，但对鞅进行系统研究并使之成为随机过程论的一个重要分支的，则应归功于杜

布。

他还引进了半鞅的概念。

在鞅论中有以他的姓氏命名的著名的杜布停止定理、杜

布一耶上鞅分解定理等。

鞅论使随机过程的研究进一步抽象化，不仅丰富了概率

论的内容，而且为其它数学分支如调和分析、复变函数、位势理论等提供了有力的工

具。

对马尔可夫过程，杜布关于轨道的严密处理进行了系统的研究。

六、鞅

12课时（3周）

8课时（2周）

主要内容：

Poisson过程、马尔可夫链、更新过程、布朗运动

问题：

随机变量的定义？

定义：

设（门，J,P）是概率空间，X是定义在门上取值于实数集R的函数，如果-X•二R,f.:

X（•.）<

x｝•二，则称X是j上的随机变量，简称为随机变量。

函数

F（x）=P｛•■:

X（•，）_x｝,-：

：

:

:

x：

•:

称为随机变量X的分布函数。

第一章随机过程的基本概念

、随机过程的定义

例1:

医院登记新生儿性别，0表示男，1表示女，Xn表示第n次登记的数字，得到一个序

列Xi,X2,…，记为｛Xn,n=1,2,…｝，则Xn是随机变量，而｛Xn,n=1,2,…｝是随

机过程。

例2：

在地震预报中，若每半年统计一次发生在某区域的地震的最大震级。

令Xn表示第n

次统计所得的值，则Xn是随机变量。

为了预测该区域未来地震的强度，我们就要研究随机

过程｛Xn,n=1,2，•…｝的统计规律性。

例3:

—个醉汉在路上行走，以概率p前进一步，以概率1-p后退一步（假设步长相同）。

以X（t）记他t时刻在路上的位置，则｛X（t）,t_0｝就是（直线上的）随机游动。

例4:

乘客到火车站买票，当所有售票窗口都在忙碌时，来到的乘客就要排队等候。

乘客的

到来和每个乘客所需的服务时间都是随机的，所以如果用X（t）表示t时刻的队长，用Y（t）表

示t时刻到来的顾客所需等待的时间，则｛X（t）,t•T｝和｛Y（t）,rT｝都是随机过程。

设给定参数集合T,若对每个LT,X（t）是概率空间（「，■>

P）上的随机变量，则称｛X（t）,rT｝为随机过程，其中t为指标集或参数集。

Xt（「）：

［】一；

E,E称为状态空间，即X（t）的所有可能状态构成的集合。

例1：

E为｛0,1｝

例2：

E为［0,10］

例3：

E为｛0,1,-1,2,一2「｝例4：

E都为［0,-:

）

注：

（1）根据状态空间E的不同，过程可分为连续状态和离散状态，例1,例3为离散状态，

其他为连续状态。

（2）参数集T通常代表时间，当T取R,R+,［a,b］时，称｛X（t）,t•T｝为连续参数的随机过程；

当T取乙z+时，称｛X（t）,tT｝为离散参数的随机过程。

（3）例1为离散状态离散参数的随机过程，例2为连续状态离散参数的随机过程，例3为

离散状态连续参数的随机过程，例4为连续状态连续参数的随机过程。

二、有限维分布与Kolmogorov定理

随机过程的一维分布：

F（t,x）=P｛x（t）乞x｝

随机过程的二维分布

Ft1,t2（X1,X2-P｛X（ti）_xi,X（t2）_x2｝,ti,t2*T

a

随机过程的n维分布：

FyJXiK，…Xn）=P｛X（tJ今，X（t2）兰X2,…X（tn）兰Xn｝,t?

…T

1、有限维分布族：

随机过程的所有一维分布，二维分布，…n维分布等的全体

｛Ft1,t2「tn（X1,X2,…Xn）,t1,t2,…tnET,n>

1｝称为｛X（t）,t乏T｝的有限维分布族。

2、有限维分布族的性质：

（1）对称性：

对（1,2,…n）的任一排列（j.j2,…jn），有

Ftt...t（x.,x.,x匚）=Ftt^.t（x1,x2,xn）

tj1,tj2,tjnJ1J2Jnt1,t2,tn12n/

（2）相容性：

对于m<

n，有

Ft1,…tm,tm.1…t“（X1,Xm"

）=Ft,tm（X1,Xm）

3、Kolmogorov定理

定理：

设分布函数族｛Ft1,t2；

.ln（x1,x2xn）,t’t?

…tn^T,n31｝满足上述的对称

性和相容性，则必存在一个随机过程｛X（t）,t•T｝,使

｛Ft1,t2..fn（x1,X2Xn）,t1,t2,…tnWT,n启1｝恰好是｛X（t）,tET｝的有限维分布族。

设｛X（t）,t-T｝是一随机过程：

（1）称X（t）的期望b（t）二E[X（t）]（如果存在）为过程的均值函数。

2

（2）如果-ST,E[X（t）]存在，则称随机过程｛X（t）,rT｝为二阶矩过程。

此时，称函数（t.,t2）=E[（X（tJ-」X（t1））（X（t2）-」X（t2））],t.,t2・T为过程的协方差函数；

称Var[X（t）^;

（t,t）为过程的方差函数；

称

Rx（s,t）=E[X（s）X（t）],s,rT为自相关函数。

例：

X（t）=X0•tv（a乞t岂b），其中X0和V是相互独立的且均服从N（0,1）分布的随机

变量，求-iX（t）和（t,,t2）。

三、随机过程的基本类型

独立增量过程：

如果对任意t-t2，…，tn•T,X：

t2：

…•：

tn,随机变量X（t2）—X（t,）,

X（tn）-X（tn二）是相互独立的，则称｛X（t）,t-T｝是独立增量过程。

平稳增量过程：

如果对任意t,,t2，有X（t什h）-X（ti）dX（t2+h）-X（t2），则称｛X（t）,t.二T｝是平稳

增量过程。

平稳独立增量过程：

兼有独立增量和平稳增量的过程称为平稳独立增量过程，例如Poisson

过程禾口Brownianmotion

Poisson过程

2.1Poisson过程

1.计数过程

随机过程｛N（t）,t_0｝称为计数过程，如果N（t）表示从0到t时刻某一特定事件A发生的次数，它具备以下两个特点：

（1）N（t）_0且取值为整数；

（2）s:

t时，N（s）iiLN（t）且N（t）-N（s）表示（s,t］时间内事件A发生的次数。

2.Poisson过程

定义2.1.1:

计数过程｛N（t）,t-0｝称为参数为■（■0）的Poisson过程，如果

（1）N（0）=0;

（2）过程具有独立增量性；

（3）在任一长度为t的时间区间中事件发生的次数服从均值为■t的Poisson分布，即对一

切s_0,

n

t>

0，有P（N（t+s）_N（s）=n）=e一兀,n=0,1，…

n!

Poisson过程具有平稳增量性

因为N（t•s）_N（s）的分布只依赖于t,与区间起点s无关，令s=0,

.m（t）二EN（t）=

于是可认为■是单位时间内发生的事件的平均次数，一般称•是Poisson过程的强度。

例2.1.1:

（Poisson过程在排队论中的应用）研究随机服务系统中的排队现象时，经常用到Poisson过程模型。

例如：

到达电话总机的呼叫数目，到达某服务设施（商场、车站、购票处等）的顾客数，都可以用Poisson过程来描述。

以某火车站售票处为例，设从早上8:

00开

始，此售票处连续售票，乘客以10人/小时的平均速率到达，则9:

00-10:

00这一小时内最多

有5名乘客来此购票的概率是多少？

10:

00-11:

00没有人来买票的概率是多少？

解：

我们用一个Poisson过程来描述，设8:

00为时刻0,则9:

00为时刻1，参数•=10，于

N（t）表示某公路交叉口、矿山、

例2.1.2:

（事故发生次数及保险公司接到的索赔数）若以

工厂等场所在（0,t]时间内发生不幸事故的数目，则Poisson过程就是｛n（t）,t>

0｝的一种

很好近似。

例如，保险公司接到赔偿请求的次数（设一次事故导致一次索赔），向315台的

投诉（设商品出现质量问题为事故）等都是可以用Poisson过程的模型。

我们考虑一种最简

单的情形，设保险公司每次的赔付都是1，每月平均接到索赔要求4次，则一年中它要付出

的金额平均为多少？

设一年开始时刻为0,1月末为时刻1,…年末为时刻12,则有

P{N（12）—N（0）=n}=（4°

2）e，沢2n!

£

（4X12）

E[N（12）—N（0）]=送n，e=48

n仝n!

为什么实际中有这么多现象可以用Poisson过程来反映呢?

定义2.1.2:

计数过程:

N（t）,t-0称为Poisson过程如果满足：

（i）N（t）=0;

（ii）过程有平稳独立增量

（iii）存在’0,当h儿0时，P^N（h）=1^ho（h）;

（iv）当h儿0时，P：

N（h）_2；

=o（h）.

定理2.1.1:

定义1和定义2是等价的。

例2.1.3:

事件A的发生形成强度为丸的Poisson过程｛N（t）,t二0｝,如果每次事件发生时以概率p能够被记录下来，并以M（t）表示到时刻t被记录下来的事件总数，则｛M（t）,t_0｝是一个强度为■p的Poisson过程。

例2.1.4:

若每条蚕的产卵数服从Poisson分布，强度为，，而每个卵变为成虫的概率为p，

且每个卵是否变为成虫彼此间没有关系，求在时间[0,t]内每条蚕养活k只小蚕的概率。

2.2与Poisson过程相联系的若干分布

设Tn表示第n次事件发生的时刻，n=1,2,…，规定T。

=0。

Xn表示第n次与第n-1次事件发生的间隔时间，n=1,2，…。

1.关于Xn和匚的分布

定理2.2.1:

Xn（n=1,2，…）服从参数为■的指数分布，且相互独立。

定理2.2.2:

Tn（n=1,2,…）服从参数为n和’的丨分布。

如果每次事件发生的时间间隔X,,X2,....相互独立，且服从同一参数为■的指数分布，

则计数过程｛N（t）,t_0｝是参数为■的Poisson过程。

例2.2.1:

设从早上8:

00开始有无穷多的人排队等候服务，只有一名服务员，且每个人接受服务的时间是独立的并服从均值为20min的指数分布，则到中午12:

00为止平均有多少人已

经离去，已有9个人接受服务的概率是多少？

例222：

假设某天文台观测到的流星流是一个Poisson过程，根据以往资料统计为每小时平

均观察到3颗流星。

试求：

上午8:

00-12:

00期间，该天文台没有观察到流星的概率。

2.事件发生时刻的条件分布

s

对于s乞t，有P{「乞s|N（t）=1}

t

现在考虑n_2的情况：

定理2.2.1：

在已知N（t）二n的条件下，事件发生的n个时刻T1,T2,…Tn的联合分布密度

Bn!

疋f（t1,t2tn）-，0:

X：

…tn

例2.2.3:

乘客按照强度为，的Poisson过程来到某火车站，火车在时刻t启程，计算在（0,t]

2.3Poisson过程的推广

1.非齐次Poisson过程

定义2.3.1:

计数过程｛n（t）,t_0｝称作强度函数为■（t）.0（t_0）的非齐次Poisson过程,

如果

（1）N（t）=0;

（ii）｛N（t）,t_0｝具有独立增量

（iii）P:

N（th）—N（t）■（t）h-o（h）;

（iv）P:

N（t•h）一N（t）_2｝=o（h）.

等价定义：

定义2.3.2:

计数过程｛N（t）,t-0｝称作强度函数为•（t）.0（t_0）的非齐次Poisson过程,

若

（1）N（0）=0；

（2）｛N（t）,t_0｝具有独立增量性；

一t*

（3）即任意实数t_0,s.0，N（ts^N（t）为具有参数m（t-s）-m（t）-■（u）du

的Poisson分布，称m（t）（s）ds为非齐次Poisson过程的均值函数（或累积强度函数），

定理2.3.1:

设｛N（t）,t_0｝是一个强度函数为■（t）.0（t-0）的非齐次Poisson过程。

对

任意的t_0，令N*（t）=N（m」（t））,则｛N*（t）｝是一个强度为1的Poisson过程。

例2.3.1:

设某设备的使用期限为10年，在前5年内它平均2.5年需要维修一次，后5年平

均2年需维修一次。

试求它在试用期内只维修过一次的概率。

2.复合Poisson过程

定义233:

称随机过程｛X（t）,t_0｝为复合Poisson过程，如果对于t_0，它可以表示

N（t）

为：

X（t）=7Yj,其中｛N（t）,t_0｝是一个Poisson过程，｛Y,i=1,2^｝是一族独

i仝

立同分布的随机变量，并且与｛N（t）,t_0｝独立。

复合Poisson过程不一定是计数过程。

例2.3.2:

保险公司接到的索赔次数服从一个Poisson过程｛n（t）,t_0｝,每次要求赔付的

金额Yi都相互独立，且有相同分布F，每次的索赔数额与它发生的时刻无关，则［0,t］时间

内保险公司需要赔付的总金额｛X（t）,t_0｝就是一个复合Poisson过程，其中

X（t）八Y。

i土

例2.3.3:

设顾客到达某服务系统的时刻S1,S2,…，形成一强度为■的Poisson过程，在每

个时刻Sn（n=1,2，…），可以同时有多名顾客到达。

Yn表示在时刻Sn到达的顾客人数，

假定Yn（n=1,2，…）相互独立，并且与｛Sn｝也独立，则在［0,t］时间内到达服务系统的顾客总人数可用一复合Poisson过程来描述。

例2.3.4:

假定顾客按照参数为■的Poisson过程进人一个商店，又假设各顾客所花的钱数形

成一族独立同分布的随机变量。

以X（t）记到时间t为止顾客在此商店所花费的总值，易见

｛X（t）,t-0｝是一个复合Poisson过程。

定理2.3.2：

设｛x（t）=7Yi,t_0｝是一复合Poisson过程，Poisson过程｛N（t）,t_0｝的

iA

强度为•，则

（1）X（t）有独立增量；

22

（2）若E[Yj]：

，则E[X（t）]二tEM]，Var[X（t）]Y.tE[£

]

例2.3.5:

在保险中的索赔模型中，设索赔要求以Poisson过程到达保险公司，速率为平均每

月两次。

每次索赔服从均值为10000元的正态分布，则一年中保险公司平均的赔付额是多

少？

例2.3.6:

设顾客以每分钟6人的平均速率进入某商场，这一过程可用用Poisson过程来描述。

又该进入该商场的每位顾客买东西的概率为0.9，且每位顾客是否买东西互不影响，也与进

入该商场的顾客数无关。

求一天（12小时）在该商场买东西的顾客数的均值。

3.条件Poisson过程

定义234:

设随机变量.0，在-■的条件下，计数过程｛N（t）,t_0｝是参数为•的

Poisson过程，则称｛N（t）,t_0｝为条件Poisson过程。

定理233:

设｛N（t）,t_0｝是条件Poisson过程，且e[上]：

，则

（1）E[N（t）]=tEL\]；

（2）Var[N（t）]=tVar[_\]-tE[_\]

例2.3.7:

设意外事故的发生频率受某种未知因素影响有两种可能「，‘2，且P（「.-r）=P，

P（用.=■爲）=1一p=q，o：

p:

1为已知。

已知到时刻t已发生了n次事故。

求下一次事故在t+s之前不会到来的概率。

另外，这个发生频率为的概率是多少？

第三章Markov链

3.1基本概念

定义3.1.1:

随机过程｛Xn,n=0,1,2—｝称为Markov链，若它只取有限或可列个值（常

J,i0,i1,inJ，

用非负整数集｛0,1,2…｝来表示），并且对任意的n_0，及任意状态i

有P{Xn1=J1X。

=i°

…，Xn」「nJ，Xn=i}=P{X.1二J|X.=i}，其中X^i表示

过程在时刻n处于状态i，称｛0,1,2-｝为该过程的状态空间，记为E.上式刻画了Markov

链的特性，称为Markov性。

定义3.1.2:

称条件概率P｛Xnd=J|Xn=i｝为Markov链｛Xn,n二0,1,2—｝的一步转

移概率，简称转移概率，记为Ph,它代表处于状态i的过程下一步转移到状态j的概率。

定义3.1.3:

当Markov链的转移概率=p｛xn*=j|Xn=i｝只与状态i,j有关，而与n

无关时，称之为时齐Markov链；

否则，就称之为非时齐的。

我们只讨论时齐Markov链，简称Markov链。

定义3.1.4：

当Markov链的状态为有限时，称为有限链，否则称为无限连。

但无论状态有限

还是无限,

我们都可以将

Pij

（i,

j=E）排成一个矩阵的形式，令

-

p00

p01

p02

•叮

p=（Pij）

=

p10

P11

p12

■■■■

为转移概率矩阵，简称转移矩阵。

容易看出Pj（i,j€e）

p20

p21

p22

■

具有性质:

（1）Pij

>

0，i

j€E

；

（2）送

=1,

Vie

E。

j珏

S，若他患病，认

例3.1.1:

考虑一个包含三个状态的模型，若个体健康，认为他处于状态

|Pl1Pl2pi3|

P=P21P22P23

001

例3.1.2:

（赌徒的破产或称带吸收壁的随机游动）系统的状态时0〜n，反映赌博者在赌博期间拥有的钱数，当他输光或拥有钱数为n时，赌博停止，否则他将持续赌博。

每次以概率

P赢得1,以概率q=1-p输掉1。

这个系统的转移矩阵为

1000000

q0p0…000

9999999

Q.aaaaaaa

■■■■・・・

0000…q0p

0000…001

例3.1.3:

（带反射壁的随机游动）设上例中当赌博者输光时将获得赞助1继续赌下去，就如同一个在直线上做随机游动的球在到达左侧0点处立刻反弹回一样，这就是一个一侧带有反射壁的随机游动，此时转移矩阵为：

0100000

D—3333333

■■■■■■■

I。

000…q0p

卫000…001一

例3.1.4:

（自由随机游动）设一个球在全直线上做无限制的随机游动，它的状态为0，

0000

9998

q0p0

0q0p

「3333

■Lq0p0

■L0q0p

-s--

P=

练习：

设有