- Chen
-
随机过程的发展
随时间推进的随机现象的数学抽象。例如,某地第n年的年降水量xn由于受许多随机因素的影响,它本身具有随机性,因此便是一个随机过程。类似地,森林中某种动物的头数,液体中受分子碰撞而作布朗运动的粒子位置,百货公司每天的顾客数,等等,都随时间变化而形成随机过程。严格说来,现实中大多数过程都具有程度不同的随机性。
气体分子运动时,由于相互碰撞等原因而迅速改变自己的位置与速度,其运动的过程是随机的。人们希望知道,运动的轨道有什么性质(是否连续、可微等等)?分子从一点出发能达到某区域的概率有多大?如果有两类分子同时运动,由于扩散而互相渗透,那么扩散是如何进行的,要经过多久其混合才会变得均匀?又如,在一定时间内,放射性物质中有多少原子会分裂或转化?电话交换台将收到多少次呼唤?机器会出现多少次故障?物价如何波动?这些实际问题的数学抽象为随机过程论提供了研究的课题。
一些特殊的随机过程早已引起注意,例如1907年前后,Α.Α.马尔可夫研究过一列有特定相依性的随机变量,后人称之为马尔可夫链(见马尔可夫过程);又如1923年N.维纳给出了布朗运动的数学定义(后人也称数学上的布朗运动为维纳过程),这种过程至今仍是重要的研究对象。虽然如此,随机过程一般理论的研究通常认为开始于30年代。1931年,Α.Η.柯尔莫哥洛夫发表了《概率论的解析方法》;三年后,Α.Я.辛钦发表了《平稳过程的相关理论》。这两篇重要论文为马尔可夫过程与平稳过程奠定了理论基础。稍后,P.莱维出版了关于布朗运动与可加过程的两本书,其中蕴含着丰富的概率思想。1953年,J.L.杜布的名著《随机过程论》问世,它系统且严格地叙述了随机过程的基本理论。1951年伊藤清建立了关于布朗运动的随机微分方程的理论(见随机积分),为研究马尔可夫过程开辟了新的道路;近年来由于鞅论的进展,人们讨论了关于半鞅的随机微分方程;而流形上的随机微分方程的理论,正方兴未艾。60年代,法国学派基于马尔可夫过程和位势理论中的一些思想与结果,在相当大的程度上发展了随机过程的一般理论,包括截口定理与过程的投影理论等,中国学者在平稳过程、马尔可夫过程、鞅论、极限定理、随机微分方程等方面也做出了较好的工作。
研究随机过程的方法是多样的,主要可分为两大类:一是概率方法,其中用到轨道性质、停时、随机微分方程等;另一是分析方法,工具是测度论、微分方程、半群理论、函数论、希尔伯特空间等。但许多重要结果往往是由两者并用而取得的。此外,组合方法、代数方法在某些特殊随机过程的研究中也起一定的作用。研究的主要课题有:多指标随机过程、流形上的随机过程与随机微分方程以及它们与微分几何的关系、无穷质点马尔可夫过程、概率与位势、各种特殊过程的专题讨论等。
随机过程论的强大生命力来源于理论本身的内部,来源于其他数学分支如位势论、微分方程、力学、复变函数论等与随机过程论的相互渗透和彼此促进,而更重要的是来源于生产活动、科学研究和工程技术中的大量实际问题所提出的要求。目前随机过程论已得到广泛的应用,特别是对统计物理、放射性问题、原子反应、天体物理、化学反应、生物中的群体生长、遗传、传染病问题、排队论、信息论、可靠性、经济数学以及自动控制、无线电技术等的作用更为显著。
随机过程的定义 设 (Ω,F,p)为概率空间(见概率),T为指标t的集合(通常视t为时间),如果对每个t∈T,有定义在Ω上的实随机变量x(t)与之对应,就称随机变量族x=为一随机过程(简称过程)。研究得最多的是T 为实数集R=(-∞,∞)的子集的情形;如果T为整数n的集,也称为随机序列。如果T是d维欧几里得空间Rd(d为大于1的正整数)的子集,则称x为多指标随机过程。
过程x实际上是两个变元(t,ω)(t∈T,ω ∈Ω)的函数,当t固定时,它是一个随机变量;当ω固定时,它是t的函数,称此函数为随机过程(对应于ω)的轨道或样本函数。
如不限于实值情况,可将随机变量与随机过程的概念作如下一般化:设(E,ε)为可测空间(即E为任意非空集,ε为E的某些子集组成的σ域),称x=(x(ω), ω∈Ω)为取值于E的随机元,如果对任一B∈ε,∈F。特别,如果为Rd中全体波莱尔集所成的σ域(称波莱尔域),则取值于Rd中的随机元即d维随机向量。如果其中RT为全体实值函数06=(06(t),t∈T)的集,而为包含一切RT中有限维柱集 的最小σ域,则取值于E的随机元x 即为上述的(实值)随机过程。如对每个t∈T,有取值于E 的随机元x(t)与之对应,则称为取值于E的随机过程。
以下如无特别声明,只讨论取值于(R 1,B1)的随机过程。
有穷维分布族 一维分布函数描述了随机变量取值的概率规律(见概率分布),对随机过程x=起类似作用的是它的全体有穷维分布函数:对任意 n个tj∈T,i=1,2,…,n,考虑的联合分布函数,,全体联合分布称为x 的有穷维分布族,它显然满足下列相容性条件:
① 对(1,2,…,n)的任一排列(λ1,λ2,…,λn),
;
② 若m<n,则。反之,有著名的柯尔莫哥洛夫定理:设已给T及一族分布函数如果它满足①、②,则必存在概率空间(Ω,F,p)及定义于其上的随机过程x,而且x的有穷维分布族重合于F。
从测度论的观点看,每一随机过程x=在(RT,BT)上产生一概率测度PX,称为x 的分布,它在上述柱集上的值就是
正态过程 有穷维分布都是正态分布的随机过程,又称高斯过程。就象一维正态分布被它的均值(见数学期望)和方差所确定一样,正态过程被它的均值函数m(t)=Ex(t)和协方差函数
λ(s,t)=Ex(s)x(t)-m(s)m(t)
所确定,其中λ(s,t)是对称非负定函数,即λ(s,t)=λ(t,s),而且对任意的 tj∈T及实数αj,1≤i≤n,有反之,对任给的有限实值函数m(t)和对称非负定函数λ(s,t),由柯尔莫哥洛夫定理可证,存在一个正态过程,以m(t)为其均值函数,以λ(s,t)为其协方差函数。
根据中心极限定理,许多实际问题中出现的随机过程可近似地视为正态过程。此外,正态过程有一系列的好性质,如它的最佳线性估计重合于条件期望,这一点在应用上是很方便的,既准确又便于计算。因此正态过程在实际中有广泛的应用,在无线电通讯及自动控制中尤为重要。为方便计,设m(t)呏0。任取tj,t∈T,用L(x(t1),x(t2), …,x(tn))表示由x(t1),x(t2),…,x(tn)的线性组合所构成的希尔伯特空间,x(t)在此空间上的投影记作
称为x(t)关于x(t1),x(t2),…,x(tn)的最佳线性估计,即线性最小均方误差估计;条件期望E(x(t)|x(t1),x(t2),…,x(tn))则是非线性的最小均方误差估计。对正态过程来讲,这两种估计以概率1相等。
可分性 设F是p-完备的,即F包含任何概率为零的集的一切子集。在随机过程的研究中,Ω的某些重要的子集并不能由事件(即F中的元素)经可列次集运算而得到。例如对一切若T不可列,则作为不可列多个事件的交,A未必是一个事件,也就谈不上它的概率。为了解决这类问题,杜布引进了随机过程可分性的概念。称过程x 关于T 的某一可列稠集Q可分(或简称可分),是指除了一个概率为零的集N外,x在每一t∈T 处的值,可以用限于Q的x在t附近的值来任意逼近;即任给不属于N的ω,存在∈Q,使得rj→t,且x(rj,ω)→x(t,ω)。所谓Q为T 的稠集,是指T 的每一点必是Q 中某个点列的极限。如果x 关于Q 可分,则可以证明上述的 A是一个事件,而且有p(A)=p()。如果过程x关于T的任一可列稠集都可分,则称x完全可分。
设x=与Y=为定义在概率空间(Ω,F,p),上的两个随机过程,如果对任何t∈T,p(x(t)=Y(t))=1,则称x与Y等价(x与Y互为修正);这时,x和Y有相同的有穷维分布族。虽然任给的过程 x未必可分,但杜布证明了下列重要结果:对任一过程x,必存在与它等价的可分过程Y 。因此在讨论仅与有穷维分布有关的性质时,可取一可分过程Y来代替x。
过程x称为随机连续,如果对任一t0∈T,在依概率收敛的意义下(见概率论中的收敛)有,对随机连续的过程x,必存在一个完全可分过程Y与之等价。
可测性 为了研究样本函数对t的积分等问题,需要x(t,ω)关于两个变量(t,ω)的可测性。设T是R中某区间,B(T)是T中全体波莱尔集所成的σ域,B(T)×F表示乘积σ域,μ=L×P表示勒贝格测度L(见测度论)与p的乘积测度,表示 B(T)×F关于μ的完备化σ域。
称随机过程x为可测的,如果对任一实数α,有: 称随机过程x 为波莱尔可测的,如果对任一实数α,有。如果过程x 随机连续,则必存在与x 等价的、可测而且完全可分的过程Y。
有时还需要更强的可测性。设给了F的一族子σ 域,其中T=R+=)×。
循序可测过程一定是适应的而且是波莱尔可测的,但逆之不然,除非样本函数性质较好。例如所有样本函数都右连续的适应过程一定是循序可测。使一切样本函数右连续的适应过程都可测的T×Ω上的最小σ域,称为可选σ域,关于可选σ域可测的过程称为可选过程。可见,可选可测性是比循序可测性更强的一种可测性。进一步,使一切样本函数连续的适应过程都可测的T ×Ω上的最小σ域,称为可料σ域,关于可料σ域可测的过程称为可料过程。这又是一种比可选可测性更强的可测性。可以证明,样本函数左连续的适应过程都是可料过程。
轨道性质 当人们观察物体作随机运动时,最感兴趣的问题之一是它的轨道性状,因此随机过程论中一个重要问题是研究轨道性质,例如探讨在什么条件下,过程的轨道x(t,ω), α≤t≤b,以概率1有界,或无第二类断点,或是阶梯函数,或是连续函数,等等。函数06(t)在上无第二类断点是指:对每一个t0∈(α,b),存在左、右极限及 而在α、b)处,则存在单侧极限。
设过程可分,而且存在常数α>0,ε>0,с≥0,使得对任意的t∈,t+Δt∈,有,则过程的轨道以概率1在上一致连续。设可分过程随机连续,而且存在常数p>0,q>0,r>0,с≥0,使得对任意的α≤t1≤t2≤t3≤b,有
则过程的轨道以概率 1无第二类断点。正态过程的轨道性质有更好的结果:对均值函数m(t)呏0的可分正态过程,只要存在с≥0,α>0,使得
,
x的轨道就以概率1连续。
停时 这一概念的引进是随机过程论发展史中的一件大事,它带来了许多新的研究课题,而且扩大了理论的应用范围。早在1945年,J.L.杜布关于马尔可夫链的文章中已经有了停时的思想。60年代杜布、Ε.Б.登金(又译邓肯)、R.M.布卢门塔尔等应用停时于鞅及强马尔可夫过程的研究;70年代,由于法国概率论学派的工作而使停时的理论更加完善。
直观上,停时是描述某种随机现象发生的时刻,它是普通时间变量t的随机化。例如,灯泡的寿命、一场球赛持续的时间都可看成是停时。又如,作随机运动的粒子首次到达某集A 的时刻τ,τ(ω)=inf,且约定inf═=∞,当x 的轨道连续而且A是一个闭集时,τ就是一个停时,它是一个随机变量,而且对任何t≥0,∈σ。
一般地,设在可测空间(Ω,F)中已给F的一族单调、右连续、完备的子σ 域族,称定义在Ω上的非负可测函数τ=τ(ω)(可取+∞为值)为 停时,如果对任意 t≥0,总有∈。这一定义的直观背景是:把理解为到t为止的全部信息,一个可观测的随机现象发生的时刻τ是否不迟于t这一信息应包含在之中。
类似于,对停时τ可以定义σ域,其中为包含一切的最小σ域。Fτ可理解为过程到τ为止的全部信息。
停时有许多好的性质,例如,若τ1、τ2是停时,则τ1∨τ2、τ1∧τ2也是停时,其中,;还有,这里表示包含、的最小σ域;进一步,若是一列停时,则也是停时。更细致地研究停时,需要对其进行分类,重要的类型有可料时、绝不可及时等。
二阶过程 均值和方差都有限的实值或复值随机过程称为二阶过程。二阶过程理论的重要结果之一是它的积分表示。设F是可测空间(∧,A)上的有限测度,如果对每一A∈A,有一复值随机变量Z(A)与它对应,且满足:①E|Z(A)|2< ∞;②则称Z=为(∧,A)上的正交随机测度。定义在∧上、关于A可测而且关于F平方可积的函数全体记为L2(∧,A,F)。给了一个正交随机测度Z,一族函数,, 就可以产生一个二阶过程,满足
(1)
它的二阶矩为
。 (2)
反之,对给定的二阶过程,只要它的二阶矩有积分表示(2),就一定存在一个正交随机测度Z,使过程本身有积分表示(1)。(1)和(2)分别称为过程x和它的二阶矩的谱表示。对均方连续的实二阶过程,则有级数展开式 其中是标准正交实随机变量序列,即;δnm=0,n=m时,δnm=1),λn是积分方程的本征值,ψn是相应的本征函数
Γ(t,s)=Ex(t)x(s)。
特殊随机过程类 对过程的概率结构作各种假设,便得到各类特殊的随机过程。除上述正态过程、二阶过程外,重要的还有独立增量过程、马尔可夫过程、平稳过程、鞅点过程和分支过程等。贯穿这些过程类的有两个最重要最基本的过程,布朗运动和泊松过程,它们的结构比较简单,便于研究而应用又很广泛。从它们出发,可以构造出许多其他过程。这两种过程的轨道性质不同,前者连续而后者则是上升的阶梯函数。
广义过程 正如从普通函数发展到广义函数一样,随机过程也可发展到广义过程。设D为R上全体无穷次可微且支集有界的实值函数φ的集,定义在D上的连续线性泛函称为广义函数、全体广义函数的集记为Dx。考虑D×Ω上的二元函数x(φ,ω),如果对固定的ω,x(·,ω)∈Dx是广义函数,而对固定的φ,x(φ,·)是随机变量,则称为定义在(Ω,F,p)上的广义过程。它在φ1,φ2,…,φn上的联合分布为
全体这种联合分布构成了广义过程x的"有穷维分布族"。前两阶矩分别称为均值泛函
和相关泛函
根据有穷维分布族的性质,也可以定义特殊的广义过程类,象广义平稳过程、广义正态过程等。例如,若对D中任意有限个线性独立函数φ1,φ2,…,φn,有限维分布都是正态分布,则称x=为广义正态过程。