概率论论文

北京邮电大学 概率论课期中报告

题目：随机过程概述 姓名： 班级:

学院: 信息与通信工程学院

2010年5月23日

摘要

本文通过对随机过程及其数字特征的研究和整理，以逻辑化的方式得出随机过程的一系列有用的性质，并在铺叙过程中介绍了随机过程理论发展的历程和实际中应用的情况。

关键词

随机过程，概率分布，数字特征，平稳过程，宽平稳过程

正文

一、 随机过程概述

随机过程(Stochastic Process)是一连串随机事件动态关系的定量描述。随机过程论与其他数学分支如位势论、微分方程、力学及复变函数论等有密切的联系，是在自然科学、工程科学及社会科学各领域研究随机现象的重要工具。随机过程论目前已得到广泛的应用，在诸如天气预报、统计物理、天体物理、运筹决策、经济数学、安全科学、人口理论、可靠性及计算机科学等很多领域都要经常用到随机过程的理论来建立数学模型。

一般来说，把一组随机变量定义为随机过程。在研究随机过程时，人们透过表面的偶然性描述出必然的内在规律并以概率的形式来描述这些规律，从偶然中悟出必然正是这一学科的魅力所在。

随机过程整个学科的理论基础是由柯尔莫哥洛夫和杜布奠定的。这一学科最早源于对物理学的研究，如吉布斯、玻尔兹曼、庞加莱等人对统计力学的研究，及后来爱因斯坦、维纳、莱维等人对布朗运动的开创性工作。1907年前后，马尔可夫研究了一系列有特定相依性的随机变量，后人称之为马尔可夫链。1923年维纳给出布朗运动的数学定义，直到今日这一过程仍是重要的研究课题。随机过程一般理论的研究通常认为开始于20世纪30年代。1931年，柯尔莫哥洛夫发表了《概率论的解析方法》，1934年A·辛饮发表了《平稳过程的相关理论》，这两篇著作奠定了马尔可夫过程与平稳过程的理论基础。1953年，杜布出版了名著《随机过程论》，系统且严格地叙述了随机过程基本理论。

二、 随机过程的定义

随机过程的有两个等价的定义：

定义一：设E是一随机实验,样本空间为Ω={ω}，参数T∈(-∞,+∞),如果对每个ω∈Ω,总有一个确定的时间函数X(ω,t)与之对应,这样对于所有的ω∈Ω,就得到一族时间t的函数,我们称此时间t的函数族为随机过程,而族中每一个函数称为这个随机过程的样本函数。

定义二：设E是一随机实验，样本空间为Ω={ω}，参数T∈(-∞,+∞),如果

对任意t∈T ，有一定义在Ω上的随机变量X(ω,t)与之对应,则称{X(ω,t),t∈T}为随机过程，简记为{X(t),t∈T}或{X(t)},也可记为X(t)。

三、 研究方法

研究随机过程的方法多种多样，主要可以分为两大类：一类是概率方法，其中用到轨道性质、停时和随机微分方程等；另一类是分析的方法，其中用到测度论、微分方程、半群理论、函数堆和希尔伯特空间等。实际研究中常常两种方法并用。另外组合方法和代数方法在某些特殊随机过程的研究中也有一定作用。研究的主要内容有：多指标随机过程、无穷质点与马尔可夫过程、概率与位势及各种特殊过程的专题讨论等。中国学者在平稳过程、马尔科夫过程、鞅论、极限定理、随机微分方程等方面做出了较好的工作。

一个实际的随机过程是任意一个受概率支配的过程，例子有：①看做是受孟德尔遗传学支配的群体的发展；②受分子碰撞影响的微观质点的布朗运动，或者是宏观空间的星体运动；③赌场中一系列的赌博；④公路一指定点汽车的通行。 在每一种情形，一个随机系统在演化，这就是说它的状态随着时间而改变，于是，在时间t的状态具有偶然性，它是一个随机变量x(t)，参数t的集通常是一个区间(连续参数的随机过程)或一个整数集合(离散参数的随机过程)。然而，有些作者只把随机过程这个术语用于连续参数的情形。

如果系统的状态用一个数来表示，x(t)就是数值的，在其他情形，x(t)可以是向量值或者更为复杂。在本条的讨论中，通常限于数值的情形。当状态变化时，它的值确定一个时间的函数——样本函数，支配过程的概率规律确定赋予样本函数的各种可能性质的概率。

数学上的随机过程是由实际随机过程概念引起的一种数学结构。人们研究这种过程，是因为它是实际随机过程的数学模型，或者是因为它的内在数学意义以及它在概率论领域之外的应用。数学上的随机过程可以简单的定义为一组随机变量，即指定一参数集，对于其中每一参数点t指定一个随机变量x(t)。如果回忆起随机变量自身就是一个函数，以ω表示随机变量x(t)的定义域中的一点，并以x(t，ω)表示随机变量在ω的值，则随机过程就由刚才定义的点偶(t，ω)的函数以及概率的分配完全确定。如果固定t，这个二元函数就定义一个ω的函数，即以x(t)表示的随机变量。如果固定ω，这个二元函数就定义一个t的函数，这是过程的样本函数。

一个随机过程的概率分配通常是由指定它的随机变量的联合分布来给定的，这些联合分布以及由它们诱导出来的概率可以解释为样本函数的性质的概率。例如，如果to是一个参数值，样本函数在to取正值的概率是随机变量x(to)有正值的概率。在这个水平上的基本定理：任意指定的自身相容的联合概率分布对应一随机过程。

四、 分类

(一) 按状态和时间是可列集还是连续集分类：

1. 连续型随机过程:T是连续集,且t∈T,X(t)是连续型随机变量,则称过程

{X(t),tT}为连续型随机过程。 2. 离散型随机过程:T是连续集，且t∈T,X(t)是离散型随机变量，则称过程

{X(t),t∈T}为离散型随机过程。 3. 连续型随机序列:T是可列集,且t∈T,X(t)是连续型随机变量，则称过程

{X(t),t∈T}为连续型随机序列。 4. 离散型随机序列:T是可列集, 且t∈T, X(t)为离散型随机变量,则称过程

{X(t),t∈T}为离散型随机序列。通常T取为T ={0,1,2…}或T ={0, ± 1，±2…},此时随机序列常记成{Xn,n=0,1,…}或{Xn,n≥0}。

(二) 按分布特性分类：

依照过程在不同时刻状态的统计依赖关系分类。例如：独立增量过程，马尔可夫过程，平稳过程等。

五、 随机过程的概率分布

(一) N维分布函数

设{X(t),t∈T}是随机过程，对于任意整数n≥1及T中任意n个不同的参数t1,t2，…，tn，称随机向量（X(t1),X(t2),…,X(tn)）的分布函数

F{x1,x2,,xn;t1,t2,,tn}P{X(t1)x1,X(t2)x2,,X(tn)xn}为随机过程{X(t),t∈T}的n维分布函数.

变化n及t1,t2，…，tn所得到的有限维分布函数的全体

F{x1,x2,,xn;t1,t2,,tn},Ft,t,,tT,n112n称为{X(t),t∈T}的有限维分布函数族。

当n=1时,得到一维分布函数F(x,t)=P{X(t)≤x},

一维分布函数的全体{F(x,t), t∈T}称为一维分布函数族.

(二) 随机过程的数字特征

随机过程的分布函数族能完整地刻画随机过程的统计特征，但是在人们的生活中，根据观察往往只能得到随机过程的部分资料，用它来确定有限维分布函数是困难的甚至不可能的，因而像引入随机变量的数字特征那样，有必要引入随机过程的基本数字特征。

随机过程的数字特征包括均值函数、均方值函数、方差函数、协方差函数、自相关函数。

从理论角度来看，仅仅研究均值函数和自相关函数当然是代替不了对整个随机过程的研究，但是由于它们确实刻画了随机过程的主要统计特性，而且远较有限维分布函数族易于观察和实际计算，因而对于应用课题而言，它们常常能够起重要作用。

六、 二维随机过程

(一) 定义

X(t)、Y(t)为定义在同一样本空间Ω和同一参数集T上的随机过程，对于任意t∈T，若(X(t),Y(t))是二维随机变量，则称{(X(t),Y(t)),t∈T}为二维随机过程。

(二) 有限维分布函数和独立性

{(X(t),Y(t)),t∈T}为二维随机过程,对于任意的正整数n和m，以及任意的t1,t2,…,tn；t1, t2,…,tm∈T ，称n+m元函数.

F(x1,x2,…,xn；y1,y2,…,ym；t1,t2,…,tn；t1,t2,…,tm) =P{X(t1)x1,…, X(tn) xn；Y(t1) y1,…,Y(tm) ym}

为{(X(t),Y(t)),t∈T}的n+m维分布函数，类似的可定义有限维分布函数族.

七、 平稳过程

(一) 概述

统计特性不随时间的推移而变化的随机过程。例如，一台稳定工作的纺纱机纺出的纱的直径大小，受各种随机因素影响，在某一标准值周围波动，在任意若干时刻处，直径之间的统计依赖关系，仅与这些时刻之间的相对位置有关，而与其绝对位置无关，因而直径的变化过程可以看作一个平稳过程。具有近似于这种

性质的随机过程，在实际中是大量存在的。

在数学中，平稳过程（Stationary random process）或者严格平稳过程（Strictly-sense stationary,SSS）是在固定时间和位置的概率分布与所有时间和位置的概率分布相同的随机过程。这样，数学期望和方差这些参数也不随时间和位置变化。

例如，白噪声（AWGN）就是平稳过程，铙钹的敲击声是非平稳的。尽管铙钹的敲击声基本上是白噪声，但是这个噪声随着时间变化：在敲击前是安静的，在敲击后声音逐渐减弱。

在时间序列分析中稳态作为一个工具使用，在这里原始数据经常转换为平稳态，例如经济学数据经常随着季节或者价格水平变化。如果这些过程是平稳过程与一个或者多个呈现一定趋势的过程的线性组合，那么这些过程就可以表述为趋势平稳。将这些数据进行转换保留平稳数据用于分析的过程称为解趋势（de-trending）。 采样空间也是离散的离散时间平稳过程称为Bernoulli scheme，离散采样空间中每个随机变量可能取得 N'个可能值中的任意一个。当 N = 2 的时候，这个过程叫做伯努利过程。

(二) 理论发展

平稳过程的基本理论是在20世纪30～40年代建立和发展起来的，并已相当完善。其后的研究主要是向某些特殊类型以及多维平稳过程、平稳广义过程和齐次随机场等方面发展。平稳过程理论在无线电技术和自动控制等领域有着广泛的应用，并且是诸如时间序列分析、信号分析、滤波、预测理论以及控制理论等应用学科的重要工具。

(三) 宽平稳过程的谱分解

将傅里叶分析方法应用于宽平稳过程，可以把过程表成有不相关随机振幅的简谐振动的叠加，这就产生了过程按频率的谱分解，它是宽平稳过程理论的一个基本结果。

宽平稳过程的协方差函数是非负定的，即对任意t1,t2,…tn∈T,任意复数z1,z2,…zn,都有。根据这一性质,对于离散指标，Г(t)和过程本身分别有如下的谱分解式

。

对于连续指标，如果还假设过程为均方连续的，即对任意（它的一个等价条件是Г(t)为连续函数），则有谱分解式

。上面的

F(λ)是区间【-，】或(-∞,∞)上的有界非降函数,并可取为右连续的，称为过程X的谱分布函数。

对η的积分是随机积分中一种常见的对正交增量过程的积分。如果 F(λ)绝

对连续，则称它的导函数ƒ(λ)＝F┡(λ)为过程X的谱密度(或功率谱密度)。最重要的特例是有理谱密度，具有有理谱密度的平稳过程可以看成白噪声（即具有常值谱密度的平稳过程）输入一个有限阶非时变线性系统所得的输出。这一特性使得它们在实际应用中占有重要的地位。

从平稳过程的谱分解可以推出一些重要的结论。例如均方大数律。

参考文献

[1]林元烈.应用随机过程[M],北京：清华大学出版社，2002

[2]朱春浩.简明概率论学术史纲要[D],湖北武汉：武汉船舶职业技术学院公共课部，2010

[3]胡细宝、孙洪祥、王丽霞.概率论、数理统计、随机过程[M],北京：北京邮电大学出版社，2004