第3章
CHAPTER 3


随机信号分析





3.1引言

在客观世界尤其是在通信系统中广泛存在着随机演变的过程(包括信号和噪声),学习和研究随机信号的分析方法和理论对于掌握系统工作原理是非常必要的。本章将从以下几个方面学习有关内容,首先对概率论中的随机变量的概念作一个简单的回顾; 然后在此基础上着重建立随机过程的基本概念,理解它的数字特征和统计特性; 进而掌握通信系统中普遍存在的平稳过程、高斯过程和窄带随机过程的基本概念; 最后在简单回顾线性系统分析方法的基础上,学习随机信号和噪声通过线性系统的分析方法。在本章的结尾还对通信系统中常用的马尔可夫过程进行了介绍。
3.2随机变量
概率论是研究随机现象规律性的学科,随机变量是概率论中的一个重要概念,也是学习随机过程的一个基础。本节着重学习随机变量的概念以及其概率分布等内容。
3.2.1基本概念
1. 定义

由概率论我们知道,有的事情通过一系列实验或观察,会得到不同的结果。对几种结果呈现出一种偶然性和随机性,我们称这种现象为随机现象。而随机现象的每种结果,称为随机事件。随机事件是样本点的一个集合,而样本空间总是和某一随机试验相联系,随机变量就可以看作是试验结果中能取得不同数值的量。例如,电话用户在某一段时间内电话呼叫的次数,就是一个随机的数值。又如经典的概率事件,投硬币和掷骰子等随机事件。在骰子事件中,骰子可能出现的点数也是一个随机出现的数值,这个数值总是骰子的六种可能结果之一,只是在每次投掷前我们并不确知将会出现哪一种结果。从数学的观点看,就是每个变量都可以随机地取得不同的数值,而且重要的是,在试验以前只知其可能的取值而无法预知该变量的确知取值。一般地,在随机试验中若存在一个变量,它依试验出现的结果改变而取不同的值,则称此变量为随机变量。由于随机试验出现的结果带有随机性,因而随机变量的取值也带有随机性。

若对于随机试验E而言,有概率空间(Ω,A,Ρ),其中样本空间Ω给出了所有可能的试验结果,A给出了由这些可能结果组成的各种各样的事件,而P代表每一事件发生的概率。随机变量是定义在样本空间上的函数,只不过这个函数有一些约束条件。这样,可以给出随机变量的数学定义[1]: 

定义设X=X(ω)是定义在样本空间Ω上的函数,如果对任一实数x,有Ω中的子集(ω:X(ω)≤x)∈A,那么称X(ω)是概率空间(Ω,A,Ρ)上的随机变量。简记为X。

随机变量这一概念的引入,使得我们可以更好地使用数学工具来描述随机现象的规律特性。例如检测产品可能出现的两个结果,可以用一个随机变量X来描述


X(ω)=0正品


1次品


这种随机变量的取值是有限个数的或是无限可列的,我们称其为离散型的随机变量。又如电脑的寿命也可以用一个随机变量Y来描述,它可能是一个时间范围内的任何值,是连续的随机变量。一般地,根据随机变量的取值,可分为离散随机变量和连续随机变量。通常随机变量可以用大写的X,Y,Z…表示,也可以用小写的希腊字母ξ,η,ζ…表示。




2. 特性
随机变量作为样本空间到随机事件的一个映射,具有如下的特点: 
定义域,总是在事件域Ω。
随机性,随机变量X的可能取值不止一个,试验前只能预知它的可能取值,但不能预知取哪个值。
概率特性,X以一定的概率取某个值。

引入随机变量后,可以用随机变量的等式或不等式来表示随机事件。例如,(X>100)表示“电话用户某天8:00—10:00电话呼叫的次数超过100次”这一事件。

在同一个样本空间可以定义多个随机变量。各个随机变量之间可能有某种关系,也可能相互独立。例如: Ω={飞机在空中的位置ω}; X(ω)——横坐标; Y(ω)——纵坐标; Z(ω)——高度坐标。
3.2.2概率分布
随机变量概念的产生,使概率论的研究对象由事件转变为随机变量。研究随机变量不仅要知道它可能取哪些值,还必须知道会以什么概率取这些值,这时就需要掌握随机变量的概率分布情况。因此对于随机变量,概率分布是一个很重要的概念。

定义设(Ω,A,Ρ)是概率空间,而X=X(ω)是(Ω,A,Ρ)上的随机变量。对任意一个实数x,有概率F(x)=P(ω:X(ω)≤x)或简写为F(x)=P(X≤x),则称F(x)是随机变量X的分布函数。

前面已经提到,常见的随机变量可分为离散(型)随机变量和连续(型)随机变量
实际上,除了这两种随机变量外,还有其他类型的随机变量,如混合型随机变量。。不同的随机变量对应的概率分布也不同。
1. 离散随机变量及其分布
若存在有限个或可列多个实数集合(x1,x2,…),使随机变量X有


P{X∈(x1,x2,…)}=1(3.2.1)


则称X是离散(型)随机变量。而pk=P{X=xk},k=1,2,…,称为离散随机变量X的概率分布列。
要表示离散随机变量的概率分布,常用横轴上的点表示随机变量的可能取值x1,x2,…,而用纵轴上的点表示随机变量取得各值的概率p1,p2,…,由此得到离散随机变量的概率分布图。显然,F(x)的图形呈阶梯状,如图3.2.1所示。
由分布函数的定义,不难推得分布函数具有如下的性质


F(∞)=1,F(0)=0,F(b)-F(a)=P[a<X(ω)≤b](3.2.2)


常见的离散随机变量的分布类型有二项式分布和泊松分布,详细内容此处不再赘述。
2. 连续随机变量及其分布

对于连续随机变量,其代表的试验结果可以是某一区间的任何数值,因此在描述其概率分布情况时,就不可能像离散随机变量那样把所有的可能都列出来。而要如下定义: 
若对任意实数x,存在非负实函数f(x),使随机变量X的分布函数F(x)有


F(x)=P[X≤x]=∫x-∞f(x)dx(3.2.3)


则称X是连续(型)随机变量。又称f(x)为连续随机变量X的概率密度函数或分布密度函数。概率密度函数具有如下的性质: 
①  概率密度函数是非负函数,对于一切x,存在f(x)≥0。
② ∫+∞-∞f(x)dx=F(∞)=1(3.2.4)
③ 随机变量X落在区间[x1,x2]内的概率为


P[x1≤X≤x2]=∫x2x1f(x)dx(3.2.5)



常见的连续随机变量的分布类型有,均匀分布、高斯分布、韦布尔分布和对数正态分布等。其中高斯分布是通信技术中最常见,也是最重要的分布,又称正态分布,其概率密度函数满足式(3.2.6)。其中σx是随机变量X的方差,mx是X的数学期望。图3.2.2是高斯分布的概率密度函数。


f(x)=12πσxexp-(x-mx)22σ2x(3.2.6)




图3.2.1离散随机变量概率分布图示




图3.2.2高斯概率密度函数图示



实际中,除了我们上面讨论的单个随机变量的情况,还常常会碰到需要几个随机变量,才能较好地描述某一试验或现象的情况。例如,前面提到的飞机在空中的位置,就需要3个随机变量来描述。又如,儿童的发育情况,需要知道(身高,体重,头围),即(X,Y,Z)3个随机变量构成。我们称这种n个随机变量X1,X2,…,Xn的总体X=(X1,X2,…,Xn)为多维随机变量。n=1就是我们前面已经讨论过的一维随机变量。在本书中,多维随机变量的内容就不详细讲解了,请参考有关文献。
3.2.3数字特征
理论上,随机变量的概率分布是可以进行完整描述的,但实际应用中,要完全确定随机变量的概率分布却不是那么容易的事。如何解决这个问题,随机变量的数字特征给我们提供了很好的选择。而且在很多实际问题中,我们也不需要完全知道分布函数,仅需要知道其数字特征就足够了。
所谓随机变量的数字特征,是指联系于它的分布函数的某些数字,如平均值,最大可能值等。它们反映随机变量的某方面的特征。例如在测量某物体的长度时,测量的结果是一个随机变量,在实际工作中,我们往往以测量结果的平均值来表征这一物体的长度。随机变量数字特征已经具有理论和实际的重要意义。本节我们简单回顾几个重要的数字特征,包括数学期望、方差和各阶矩。
1. 数学期望或均值
对于离散随机变量X,定义它的均值或数学期望为


E[X]=∑∞k=1xkpk(3.2.7)


对于连续随机变量X,定义它的均值或数学期望为


E[X]=∫+∞-∞xf(x)dx(3.2.8)


这里假定式(3.2.7)级数和式(3.2.8)积分绝对收敛。
2.  方差
对于离散随机变量X,定义其方差为


D[X]=∑∞k=1[xk-E[X]]2pk(3.2.9)


对于连续随机变量X,定义其方差为


D[X]=E[X-E[X]]2=∫+∞-∞(x-E[X])2f(x)dx(3.2.10)


这里同样假定式(3.2.9)级数和式(3.2.10)积分绝对收敛。
实际进行运算时,常运用方差和期望的关系,如下式


D[X]=E{[X-E[X]]2}=E[X2]-E2[X](3.2.11)


直接求解方差。
3. 矩
数学期望和方差是随机变量中很重要的基本概念,在实际应用中还常用到矩的概念。由于离散随机变量和连续随机变量的表达式可以互推,因此这里只列出连续随机变量的各阶矩的定义式。
定义随机变量X的k阶原点矩mk为


mk=E[Xk]=∫+∞-∞xkf(x)dx(k=1,2,…)(3.2.12)


定义随机变量X的k阶中心矩μk为


μk=E[(X-E[X])k]=∫+∞-∞(x-E[X])kf(x)dx(k=1,2,…)(3.2.13)


定义随机变量X和Y的(i+j)阶混合中心矩μij,又称联合矩为


μij=E[(X-E[X])i(Y-E[Y])j](3.2.14)


根据矩的定义,可以知道,均值(数学期望)是一阶原点矩,方差是二阶中心矩。而二阶混合中心矩称之为“协方差”。
4. 数字特征的物理意义
数学期望,就是一阶原点矩,它大致描述了概率分布的中心; 方差,二阶中心矩为概率分布的离散程度提供了一种度量; 协方差则是描述随机现象中,随机变量X和Y概率相关的程度,知道X后,并不能确切地知道Y的取值,但可以知道X和Y有某种相应的趋势。当然这种趋势只遵守平均规律,允许其中存在个例。
以上基本概念都各自有很多重要的性质,由于篇幅限制,本书就不展开学习了,详细内容请参考有关文献。
3.3随机过程

在客观世界中有些随机现象表示的是事物随机变化的过程,用单一的随机变量来描述已不能满足要求。例如上节提到电话用户在某一段时间内电话呼叫的次数,就是一个随机变量。若设这段时间是上午8:00—10:00,那么每天测得的数值都是一个随时间变化的随机变量X,而且每天的结果都是随机出现的。要想了解该用户每天的这段时间的呼叫情况,只有一次的试验结果显然是

图3.3.1随机过程示例图

不够的,必须做很多次同样的试验,以寻找其中的统计规律。这时,一个随机变量就不能满足需求,而需要多次重复试验的结果。这样最终会得到一族随时间变化的随机变量,这种随着时间变化的随机变量我们称之为随机过程。图3.3.1是假设每接到一个电话就加1后得到的该随机过程试验结果图,每个折线代表一次试验的结果。


随机过程在我们的日常生活中经常碰到,在通信领域更是普遍存在,熟悉并掌握随机过程的特性和研究方法是研究通信原理的必备基础。本节我们就来学习有关随机过程的定义、数字特征和统计特性等,以及重要的平稳随机过程、各态历经过程以及随机过程的频域分析方法。
3.3.1基本概念
1. 含义

通过上面的例子,我们初步了解了随机过程的概念。如果将一次试验结果用一个函数来表示,我们称之为样本函数或一个实现。它可以是任何参量的函数,研究最多的是时间t的函数。在一次试验结果中,随机过程必须取一个确定的样本,但是究竟取哪一个样本,是随机的。换句话说,在试验前是无法预知取哪个样本的,但在大量的试验观察中它是具有统计规律的。因此,随机过程既是时间t的函数(因为样本函数随时间t变化),也是随机试验可能结果ζ的函数,可记作X(t,ζ),简记为X(t)。为了防止混淆,通常用大写的X(t),Y(t),Z(t)…来表示随机过程,而用小写字母x(t),y(t),z(t)…来表示其样本函数。采用有下标的X(ti),Y(ti),Z(ti)…表示某个时刻的随机变量。图3.3.1的例子中,就采用了这种标示方法。今后,本书中将统一采用这样的标示。
更进一步地,可以总结出随机过程四种不同角度下的含义,以帮助我们更好地理解它的概念: 
①  总体上是一个时间函数族或随机变量族(t和ζ都是变量)。
② 某个样本是一个确知的时间函数,即样本函数(t是变量,ζ固定)。
③ 某个时刻是一个随机变量(t固定,ζ是变量)。
④ 某个样本的某个时刻是一个确定值(t和ζ都固定)。
2. 概率分布

既然随机过程是一族(无穷多个)随机变量,那么类似地,也可以用概率分布来描述其统计特性。
随机过程X(t)在任一特定时刻t1∈T的取值X(t1)是一维随机变量。概率P{X(t1)≤x1}是取值x1、时刻t1的函数。记为


FX(x1,t1)=P{X(t1)≤x1}(3.3.1)


称作随机过程的一维分布函数。
如果FX(x1,t1)对x1的偏导数存在,则有


fX(x1,t1)=FX(x1,t1)x1(3.3.2)


fX(x1,t1)称作随机过程X(t)的一维概率密度。
显然,一维分布函数和一维概率密度只能描述随机过程在任一孤立时刻取值的统计特性,而不能反映其在各个时刻状态之间的关系。

若随机过程X(t)在任意n个时刻t1,t2,…,tn的取值X(t1),X(t2),…,X(tn)构成n维随机变量。用类似上面的方法,我们可以定义随机过程X(t)的n维分布函数和n维概率密度为


FX(x1,x2,…,xn;t1,t2,…,tn)=P{X(t1)≤x1,X(t2)≤x2,…,X(tn)≤xn}
(3.3.3)

fX(x1,x2,…,xn;t1,t2,…,tn)=Fx(x1,x2,…,xn;t1,t2,…,tn)x1x2…xn(3.3.4)



显然,随机过程的n维概率分布给出了更细致的描述,比低维的概率密度包含更多的信息。但是n越大,问题的复杂程度就越大,因此在实际解决问题时,往往只取二维就可以了。
3. 数字特征
和随机变量一样,虽然随机过程的概率分布族能完整地描述随机过程的统计特性,但实际中,要确定其概率分布族是非常困难的事情。因此,随机过程中也采用了和随机变量一样的方法,即数字特征来描述其统计特性。类似地,随机过程常用的数字特征有数学期望、方差和相关函数等。
(1)  数学期望
我们已经知道,随机过程在任意一个时刻的取值就是一个随机变量。若将其取值简记为x,根据随机变量的数学期望的定义,可得


mX(t)=E[X(t)]=∫+∞-∞xfX(x;t)dx(3.3.5)


它是时间t的确定函数,称它为随机过程的数学期望,用mX(t)或E[X(t)]表示。实际上,mX(t)是随机过程的所有样本(集合)的任一时刻t的函数的平均值,是一种统计平均,又称集(合)平均。所以,数学期望经常被称为均值。随机过程的各样本函数以均值为中心上下起伏。

如果讨论的随机过程X(t)是接收机输出端的电压,那么这时的数学期望mX(t)就是此噪声电压的瞬时统计平均值,也就是噪声电压的直流分量。我们通常用这个实例来描述随机过程的物理意义。
(2) 均方值与方差
均值仅仅描述了随机过程诸样本函数在其上下起伏的趋势,而随机过程的方差则说明了诸样本函数在各个t时刻对mX(t)的分散程度或者说偏离程度,相同数学期望的随机过程可以有不同的方差。可得


σ2X(t)=D[X(t)]=E[X(t)-mX(t)2](3.3.6)


称之为随机过程X(t)的方差。它也是t的确定函数,是随机过程的二阶中心矩。方差的平方根又称为标准差,记为σX(t)。

类似地,如果随机过程X(t)是噪声电压,则方差σ2X(t)或D[X(t)]的物理意义在于表示消耗在单位电阻上的瞬时交流功率的统计平均值。
在工程中,还有一个概念很有用,称为均方值,记作ψ2X(t)。其物理意义表示消耗在单位电阻上的瞬时功率的统计平均值。定义为


ψ2X(t)=E[X2(t)]=∫+∞-∞x2fX(x;t)dx(3.3.7)


它是t的确定函数,是随机过程的二阶原点矩。

显然,存在式(3.3.8)的关系,与它们的物理意义相吻合。


ψ2X(t)=D[X(t)]+m2X(t)(3.3.8)


(3) 自相关函数

随机过程的均值和方差只反映了随机过程在任一时刻状态的数字特征,并没有反映出随机过程内在的联系。例如,图3.3.2所示的两个随机过程X(t)和Y(t)。从直观上看,它们具有相似的数学期望和方差; 但是,两者的内部结构却有着很大的差别。X(t)随时间的变化慢,而Y(t)随时间的变化要急剧得多。

图3.3.2具有相同数学期望和方差的不同的随机过程示例图




自相关函数就是用来描述随机过程任意两个时刻之间的联系的重要特征。定义实随机过程的自相关函数RX(t1,t2)为



RX(t1,t2)=E[X(t1)X(t2)]=∫+∞-∞∫+∞-∞x1x2fX(x1,x2;t1,t2)dx1dx2(3.3.9)


它就是随机过程X(t)在两个不同时刻t1、t2的取值X(t1)和X(t2)之间的二阶混合原点矩。它反映了随机过程X(t)任意两个时刻的状态之间相关程度。

有时,也用随机过程X(t)在两个不同时刻t1、t2的取值X(t1)和X(t2)之间的二阶混合中心矩来定义相关函数,记为KX(t1,t2): 


KX(t1,t2)=E{[X(t1)-mX(t1)][X(t2)-mX(t2)]}

=∫+∞-∞∫+∞-∞[x1-mX(t1)][x2-mX(t2)]fX(x1,x2;t1,t2)dx1dx2
(3.3.10)


为了与RX(t1,t2)相区别,我们常称KX(t1,t2)为自协方差函数,简称协方差函数。它反映了随机过程在任意两个时刻的起伏值之间的相关程度。
虽然随机过程具有多个数字特征,但它们都可以用数学期望和相关函数来表征,因此数学期望和相关函数是一般随机过程的两个基本特征。
3.3.2平稳随机过程
1. 基本概念

在通信系统中,经常遇到一类占重要地位的特殊的随机过程即平稳随机过程。例如,我们经常提到的噪声电压,就属于这样的随机过程。它是由电路中电子的热运动引起的,这种运动不随时间而变。类似的例子还有很多。概括地说,所谓平稳随机过程是指那一类统计特性不随时间推移而改变的随机过程。更准确地,是指随机过程的n维概率分布函数或n维概率密度函数与时间t的起始位置无关。

(1)  定义
定义设有随机过程X(t),若它的n维概率密度(或n维分布函数)fX(x1,x2,…,xn;t1,t2,…,tn)不随时间起点的选择不同而改变,对于任何的n和ε,它的n维概率密度满足


fX(x1,x2,…,xn;t1,t2,…,tn)

=fX(x1,x2,…,xn;t1+ε,t2+ε,…,tn+ε)(3.3.11)


则称X(t)为平稳随机过程。

所谓与时间起始位置无关,换句话说,就是指不同时间得到的随机过程的统计特性相同。例如,上午测得的某接收机的噪声电压的统计特性与下午测得的统计特性完全相同。

(2) 统计特性
下面来讨论平稳过程的数字特征,看它是如何与时间起始位置无关的。假定其一、二阶矩存在,可以得出平稳过程的数学期望和相关函数的性质。
 若X(t)是平稳随机过程,则它的一维概率密度与时间无关。
由定义式(3.3.11),并假设ε=-t1,可以得出一维的概率密度


fX(x1;t1)=fX(x1;t1+ε)=fX(x1;0)=fX(x1)(3.3.12)


与时间无关。
进而可容易求出该过程的均值、方差和均方值皆为与时间无关的常数,记为mX、σ2X和ψ2X。
 平稳随机过程X(t)的二维概率密度只与t1、t2的时间间隔有关,而与时间起点无关。
由定义式(3.3.11),并假设ε=-t1,τ=t2-t1,则二维概率密度


fX(x1,x2;t1,t2)=fX(x1,x2;t1+ε,t2+ε)=fX(x1,x2;0,t2-t1)

=fX(x1,x2;τ)(3.3.13)


仅依赖于时间差τ=t2-t1,而与具体的时刻t1、t2无关。
进而可求出该过程的自相关函数仅与时间间隔τ有关,记为RX(τ),是与t无关的一元函数。
2. 广义平稳过程和狭义平稳过程
平稳性的重要意义在于,对于一个平稳过程而言,无论何时进行试验,都会得到相同的结果,这就大大方便了我们的工作,也使得问题的分析大为简化。对于富含平稳随机过程的通信领域而言,研究平稳随机过程更是非常重要和有意义的。
但是在实际应用中,由于很难确定该过程的n维概率密度(或n维分布函数),所以往往很难用上式来判定某个过程的平稳性。实际中,我们通常只在一定范围内研究随机过程的平稳性,这样就有了广义平稳和狭义平稳之分。

对于严格符合定义式(3.3.11)的随机过程,我们称之为狭义平稳随机过程,也称严平稳过程或强平稳过程。如果只需要了解随机过程的一维和二维统计特性,则可以采用广义平稳随机过程的概念。
具体地,若随机过程X(t)的数学期望是一个常数,其相关函数只与时间间隔τ=t2-t1有关,且它的均方值有限,即满足



E[X(t)]=mX

RX(t1,t2)=E[X(t1)X(t2)]=RX(τ)

E[X2(t)]<∞(3.3.14)


则称X(t)为广义平稳随机过程(或广义平稳过程),也称为宽平稳或弱平稳过程。式(3.3.12)常被用来作为直接判定一个随机过程是否平稳的条件。人们还把只涉及一、二阶矩的平稳过程理论称为平稳过程的相关理论。

如果狭义平稳过程的一、二阶矩存在,则其必定是广义平稳的。但反过来却不一定成立。即广义平稳不一定是狭义平稳的。不过有一个特例,是正态随机过程(高斯过程)。下一节将详细讨论有关高斯过程的内容。
广义平稳随机过程是无线通信技术中经常遇到的一种最重要的随机过程。在很多实际应用中,大多数情况都可以视为广义平稳过程,就可以利用相关理论来研究平稳过程的重要数字特征,了解其统计特性。
今后,本书凡是提到平稳过程一词时,如果没有特殊的说明,都是指广义平稳过程。
3.3.3各态历经过程
从上面的讨论中,我们知道要想确定一个随机过程的数学期望和相关函数,一种最自然的办法就是进行多次试验得到多个样本函数。然后用某个固定时刻的集合平均值去近似数学期望。可以想象,试验的次数越多,这种近似就越精确,但工作的复杂度也就越大。尤其是工程实际中,大量的试验会使得成本加大。那么,是否有一种方法既能很好地近似真实结果又无须通过大量的试验来实现呢?答案是肯定的。苏联的数学家辛钦(Khinchine)证明: 在具备一定的补充条件下,对平稳随机过程的一个样本函数取时间平均(观察时间足够长),就从概率意义上趋近于此过程的统计(集合)均值。对于这样的随机过程,我们说它具备各态历经特性或遍历性(ergodic)。由于只需要一个样本函数就能充分地代表整个随机过程的特性,使得实际工作大大简化。因此研究各态历经过程具有很重要的意义。
1. 基本概念
(1) 时间平均

在给出具体定义前,先学习一下时间平均的概念,通常用(·)表示求时间平均。

如果式(3.3.15)


X(t)=limT→∞1T
∫T0X(t)dt= mX(3.3.15)


的极限存在,则称X(t)是X(t)的时间均值。
如果式(3.3.16)


X(t)X(t+τ)=limT→∞1T∫T0X(t)X(t+τ)dt= RX(τ)(3.3.16)


的极限存在,则称RX(τ)为X(t)的时间自相关函数。可见,时间自相关函数也是时间间隔τ的函数。
(2) 广义各态历经(遍历)过程

对于随机过程的各态历经性,可以理解为随机过程的各个样本函数都同样地经历了随机过程的各种可能状态,因此从任何一个样本函数都能够得到随机过程的全部统计信息,任何一个样本函数的特性都能充分地代表整个随机过程的特性。具备各态历经性的随机过程称为各态历经过程。
各态历经过程也分为狭义遍历和广义遍历过程。前者要求随机过程的所有时间平均在概率意义上趋于相应的集合平均。实际应用中,通常只需要在相关理论范围内讨论问题,因此,我们这里着重学习广义各态历经(遍历)过程。
定义设X(t)是一个平稳随机过程。
① 如果


X(t)=E[X(t)]=mX(3.3.17)


依概率1成立,则称过程X(t)的均值具有遍历性。
② 如果


X(t)X(t+τ)=E[X(t)X(t+τ)]=RX(τ)(3.3.18)


依概率1成立,则称过程X(t)的自相关函数具有遍历性。若在τ=0时,式(3.3.18)成立,则称过程X(t)的均方值具有遍历性。
③ 如果过程X(t)的均值和自相关函数都具有遍历性,则称X(t)是广义(或宽)遍历性过程,简称遍历过程。也称各态历经过程。
定义中“依概率1成立”是对所有样本函数的要求。今后,本书凡提到“遍历过程”或“各态历经过程”一词时,如无特殊说明,都指广义遍历过程。
(3) 实际意义
各态历经过程诸样本函数的时间平均实际上可以认为是相同的,因此,各态历经过程的时间平均可以直接用它的任一个样本函数的时间平均来代替。这样研究一个随机过程的统计特性就转化为研究一个样本函数的统计特性,故有


E[X(t)]=limT→∞1T∫T0x(t)dt(3.3.19)

RX(τ)=limT→∞1T∫T0x(t)x(t+τ)dt(3.3.20)


只要给一个样本函数取足够长的时间,一定可以得到满足要求的结果。这给实际工作带来了很大的方便,也是各态历经过程最有意义之处。
2. 与平稳随机过程的关系
我们用一个例子来说明各态历经过程与平稳随机过程的关系。
例3.1随机过程X(t)=Acos(t+θ),式中初相θ为随机变量,θ在(0,2π)之间均匀分布。讨论以下两种情况下过程X(t)的各态历经性。
① 振幅A是随机变量,且与θ两者统计独立。② 振幅A不是随机变量。
解① 振幅A是随机变量。
根据各态历经的定义,首先求得过程的集合均值和集合自相关函数,分别为: 


E[X(t)]=E[Acos(t+θ)]=E[A]∫+∞-∞x(t)f(θ)dθ=E[A]∫2π0cos(t+θ)12πdθ=0

RX(t,t+τ)=E[X(t)X(t+τ)]=E[A2cos(t+θ)cos(t+τ+θ)]

=E[A2]E[cos(t+θ)cos(t+τ+θ)]

=12E[A2]cosτ

E[X2(t)]=RX(0)=12E[A2]<∞


所以,该过程为广义平稳随机过程。
下面根据式(3.3.14)和式(3.3.15),求该过程的时间均值和时间自相关函数,分别为: 


mX=X(t)=limT→∞1T∫T0X(t)dt=0

RX(τ)=X(t)X(t+τ)=limT→∞1T∫T0X(t)X(t+τ)dt

=limT→∞1T∫T0A2cos(t+θ)cos(t+θ+τ)dt

=A22limT→∞1T∫T0cos(τ)cos(2t+2θ+τ)dt

=A22cosτ


显然,RX(τ)≠RX(τ),该过程满足平稳性的条件,但并不具备各态历经性。
② 振幅A不是随机变量。
可容易得到,RX(τ)=RX(τ)。因此,恒振幅随机相位信号既是平稳过程,也是各态历经过程。
小结: 各态历经过程一定是平稳随机过程,但平稳随机过程不一定都是各态历经过程。虽然很多实际的过程都是各态历经的,但要从理论上严格地验证一个随机过程是否是各态历经的,却并非易事。因此实际应用中,人们往往凭经验先假设其具有遍历性,然后通过实验去验证这个假设是否合理。
3.3.4平稳随机过程的相关函数

在3.3.1中我们已经提到,数学期望和相关函数是一般随机过程的基本特征。对于平稳随机过程而言,由于其数学期望已经是一个不随时间变化的常量,因此,其基本特征实际上就是相关函数。此外,相关函数不仅揭示了随机过程任意两个时刻状态之间的内在联系,同时它还展现了随机过程的频谱特性,是随机信号分析中非常有力的工具。本小节着重介绍平稳随机过程的自相关函数的性质。
对于实平稳随机过程X(t),它的自相关函数具有如下性质: 
①  RX(0)=E[X2(t)]=ψ2X≥0(3.3.21)

即平稳过程的均方值就是自相关函数在τ=0时的非负数。其物理意义是X(t)的总平均功率。
② RX(τ)=RX(-τ)(3.3.22)

即自相关函数是变量τ的偶函数。
③ RX(0)≥|RX(τ)|(3.3.23)

即自相关函数在τ=0时达到最大值。可由任何正函数的数学期望恒为非负数推演得出。同时可以证明,自协方差函数也在τ=0达到最大值。需要注意的是,这个结论并不排除自相关函数和自协方差在τ≠0时出现同样的最大值。
④ 若平稳过程中不含有任何周期分量,则有


lim|τ|→∞RX(τ)=RX(∞)=E2[X(t)]=m2X(3.3.24)


这是因为,对于非周期平稳过程,当|τ|增大时,X(t)和X(t+τ)的相关性会逐渐减弱; 当|τ|→∞的极限情况下,两者统计独立。其物理意义是X(t)的直流功率。
⑤ 由性质①和性质④还容易得出


RX(0)-RX(∞)=D[X(t)]=σ2X(3.3.25)


其物理意义也很明显,即总功率-直流功率=交流功率(方差)。
互相关函数的性质本书不再赘述,可参考有关文献(汪荣鑫,《随机过程》)。
3.3.5高斯过程
高斯过程又叫正态随机过程。由概率论知道,正态分布是实际工作中最常遇到的、最重要的分布。同样在电子通信系统中遇到最多的过程就是正态随机过程,如电子系统中的热噪声。而且更重要的,在信号检测、通信系统和电子测量等许多应用中,它常被用作通信信道噪声的理论模型,是我们研究的主要对象之一。

1. 基本概念
在前面3.2节中我们曾经提到过高斯分布的随机变量,现在可以将其推广到随机过程中去。
定义如果随机过程X(t)的任意n(n=1,2,…)维概率分布都是正态分布,即满足式(3.3.25)则称它为正态随机过程或高斯随机过程,简称正态过程或高斯过程。


fx(x1,x2,…,xn;t1,t2,…,tn)

=1(2π)n/2|K|1/2exp-(x-mX)TK-1(x-mX)2(3.3.26)


式中,x和mX是n维向量,K是n维协方差矩阵。


|K|=K11K12…K1n

K21K21…K2n

︙︙︙

Kn1Kn2…Knn,其中Kik=KX(ti,tk)

=E[(Xi-mi)(Xk-mk)]=rikσiσk


由式(3.3.25)可见,正态随机过程的n维概率分布仅取决于其一、二阶矩函数,即仅取决于它的数学期望、方差和相关系数。因此,根据前面3.3.2节中的相关理论,只要运用相关理论就可以解决正态过程的有关问题。
2. 高斯过程的性质
① 若高斯过程是广义平稳的,则它也是狭义平稳的。
② 若高斯过程X(t)在n个不同时刻t1,t2,…,tn采样,所得的一组随机变量X1,X2,…,Xn为两两互不相关,即Kik=KX(ti,tk)=E[(Xi-mi)(Xk-mk)]=0(i≠k)时,则这些随机变量也是相互独立的。(证明略,参见樊昌信
撰写的《通信原理》)
故对于一个高斯过程来说,不相关和独立是等价的。此结论还可以推广到多个正态过程中去,若两个正态过程互不相关,则它们也是相互独立的。
③ 平稳高斯过程X(t)与确定信号s(t)之和的概率分布仍为正态分布。若干个高斯过程之和的过程仍是高斯型。
在通信系统中,从噪声X(t)背景中接收、检测有用信号s(t)时,我们往往会遇到噪声与信号叠加在一起的合成随机信号问题,如图3.3.3。因此,此性质在通信系统中很重要。

图3.3.3通信系统信道模型


④ 高斯过程经过线性变换(或通过线性系统)后的过程仍是高斯过程。
3.4平稳随机过程谱分析

在信号与系统分析中,我们已经知道可以利用傅里叶变换
(Fourier Transform,FT)这一有效的工具来确立频域和时域的关系。从而在很多情况下,可以使用频域分析方法使得分析工作大大简化。然而,过去在应用傅里叶变换时,研究对象都是确定性函数,那么现在对象由确定信号转为随机信号后,是否还能够延用频域分析方法呢?回答是肯定的,但是需要附加一些额外的条件。而且肯定的是,对于随机信号采用频域分析方法后,仍然可以使得分析工作大大简化。因此,研究平稳随机过程的谱分析具有很重要的实际意义。
3.4.1功率谱密度函数
1. 确定信号的功率谱密度(简单回顾)

对于确定性信号来说,若x(t)是时间t的非周期实函数,则其傅里叶变换存在的充要条件是: 
① 在(-∞,+∞)范围满足狄利克雷条件。
② 绝对可积: ∫+∞-∞|x(t)|dt<+∞。
③ 总能量有限: ∫+∞-∞|x(t)|2dt<+∞。
满足以上三个条件: 就存在x(t)X(ω)。即傅里叶变换和傅里叶逆变换


X(ω)=∫+∞-∞x(t)e-jωtdt(3.4.1)

x(t)=12π∫+∞-∞X(ω)ejωtdω(3.4.2)


X(ω)就是x(t)的频谱,它通常是复函数。当x(t)代表电压(电流)时,X(ω)就表示电压(电流)按频率的分布。由
式(3.4.1)和式(3.4.2)容易得出帕塞瓦尔(Parseval)等式: 


∫+∞-∞x2(t)dt=12π∫+∞-∞|X(ω)|2dω(3.4.3)


当x(t)代表电压(电流)时,式(3.4.3)左边就代表x(t)在(-∞,+∞)区间的总能量,因此|X(ω)|2反映的是信号x(t)的能量按频率分布的情况,故称为能量谱密度。

对于确定周期信号而言,总能量是无限的,但其平均功率往往是有限的,称之为功率信号。利用傅里叶级数展开,可以得到其平均功率。
对于随机信号而言,它是非周期信号,同时又是能量无限的。因此它的任何一个非零样本函数显然是不满足傅里叶变换的绝对可积和能量可积的条件的。也就是说,随机过程(信号)的傅里叶变换不存在。那么如何来研究其频域特性呢?
2. 随机过程的功率谱密度
虽然随机过程的任一样本函数都不是能量有限的,但却是功率有限的,满足


P=limT→∞12T
∫T-T|x(t)|2dt<∞(3.4.4)


它说明电压(电流)消耗在单位时间单位电阻上的能量。由此提示我们,可以研究随机过程的功率谱。
为了将傅里叶变换方法应用于随机过程,必须对它采取措施,最简单的就是应用截取函数,将一个无限长的随机过程的样本函数,截取为有限长的一段。

如果对随机过程X(t)的任一样本函数x(t)截取长为2T的一段,记为xT(t),称xT(t)为x(t)的截取函数,见图3.4.1。满足



xT(t)=x(t)(|t|≤T≤∞)


0(|t|>T)(3.4.5)




图3.4.1x(t)及其截取函数xT(t)



显然,当T为有限值时,截取函数xT(t)满足傅里叶变换的条件,因此可以对截取函数应用傅里叶变换,同样利用帕塞瓦尔公式,就得到样本函数x(t)在时间区间(-T,T)内的平均(时间平均)功率


12T∫T-Tx2(t)dt=14πT∫+∞-∞|X(T,ω)|2dω(3.4.6)


由于式(3.4.6)只是一个样本函数的结果,要考虑诸样本函数的共同作用以得到整个随机过程的平均功率,需对上式取集合平均,可以得到


E12T∫T-Tx2(t)dt=E14πT∫+∞-∞|X(T,ω)|2dω


事实上,随机过程是没有时间限制的,所以令T→∞,取极限,并交换数学期望和积分的次序,就可以得到随机过程的
平均功率


limT→∞12T∫T-TE[x2(t)]dt=12π∫+∞-∞limT→∞E
[|X(T,ω)|2]2Tdω(3.4.7)


可见,此处的“平均”是既包含时间平均又包含集合平均的双重平均。今后,如无特别说明,我们将简称为随机过程的功率,记为PX(ω)。再把上式写为



PX(ω)=limT→∞12T∫T-TE[x2(t)]dt=12π∫+∞-∞SX(ω)dω(3.4.8)


式中,


SX(ω)=limT→∞E[|X(T,ω)|2]2T(3.4.9)


即为随机过程X(t)的平均功率谱密度,简称随机过程的功率谱。

由于功率谱是定义在整个ω轴上的,因此也称之为双边功率谱密度函数; 如果只考虑正频率轴,则可得到对应的单边功率谱密度函数


GX(ω)=2SX(ω)(ω≥0)


0其他
(3.4.10)


由式(3.4.8)可以得到以下结论: 
①  随机过程的平均功率可以通过对过程的均方值求时间平均来得到。
② 随机过程的功率谱密度应看作是每一个样本函数的功率谱的集合(统计)平均。
③ SX(ω)描述了随机过程X(t)的功率在各个不同频率上的分布; 对SX(ω)在X(t)的整个频率范围内积分,便可得到X(t)的功率PX(ω)。
3.4.2平稳随机过程功率谱的主要性质
功率谱密度是平稳随机过程的重要统计参量,有必要对它的性质进行总结和学习。
① 功率谱密度非负,即


SX(ω)≥0(3.4.11)


② 功率谱密度是ω的实函数,不再是随机变量。
③ 功率谱密度是ω的偶函数,即


SX(ω)=SX(-ω)(3.4.12)


④ 功率谱密度可积,即


∫+∞-∞SX(ω)dω<∞(3.4.13)


由平稳随机过程相关函数性质知,E[x2(t)]=12π∫+∞-∞SX(ω)dω

说明功率谱密度下面的总面积,即随机过程的功率,等于过程的均方值。平稳随机过程的均方值是有限的,所以功率谱密度可积。
简言之,平稳随机过程的功率谱是一个非负、实偶、可积的函数。
3.4.3功率谱密度与自相关函数——维纳辛钦定理
我们已经知道,对于确定信号x(t)来说,x(t)和它的频谱函数X(ω)构成傅里叶变换对。对于随机信号来说,自相关函数RX(τ)和功率谱密度SX(ω)分别是它在时域和频域的两个最重要的统计特性。它们之间存在怎样的关系呢?

美国学者维纳和苏联学者辛钦联合推出,平稳过程的自相关函数和功率谱密度是一对傅里叶变换对,这一结论我们称之为
维纳辛钦(WienerKhinchine)定理或维纳辛钦公式,如下表达


SX(ω)=∫+∞-∞RX(τ)e-jωτdτ(3.4.14)

RX(τ)=12π∫+∞-∞SX(ω)ejωτdω(3.3.15)


这是随机信号分析中非常著名的也是最重要、最基本的一个结论,由于大部分的随机信号处理类书籍上都对这个定理进行了详细的证明,本书将不再证明。有兴趣的读者,可以参阅有关文献。
两点说明: 
① 由傅里叶变换分析可知,时域信号RX(τ)必须满足绝对可积的条件,


∫+∞-∞|RX(τ)|dτ<∞


才存在频域表达式SX(ω)。但是对于某些周期性随机信号,虽然不满足绝对可积的条件,却存在其功率谱。
② 维纳辛钦定理仅对平稳过程成立。
下面我们举例说明。
例3.2设平稳过程的相关函数是RX(τ)=S0δ(τ),其中常数S0>0,见图3.4.2(a),试计算其功率谱密度SX(ω)。


图3.4.2平稳过程


解由式(3.4.14)有


SX(ω)=∫+∞-∞RX(τ)e-jωτdτ=S0∫+∞-∞δ(τ)e-jωτdτ=S0ejω0=S0


结果为一个常数,见图3.4.2(b)。

事实上,我们把这种功率谱密度为常数的平稳过程称为白噪声。这个名称来自白色光的光谱大致是均匀的这一现象。后面的章节将会对它进行进一步的学习。
例3.3随机电报信号是广义平稳过程,具有自相关函数RX(τ)=Ae-βτ,式中A>0,β>0,如图3.4.3(a)所示。求过程的功率谱密度SX(ω)。


图3.4.3随机电报信号


解根据维纳辛钦定理,可得


SX(ω)=∫0-∞Aeβτe-jωτdτ+
∫∞0Ae-βτe-jωτdτ

=Ae(β-jω)τβ-jω0-∞+
Ae-(β+jω)τ-(β+jω)∞0

=A1β-jω+1β+jω

=2Aββ2+ω2


计算出来的结果示于图3.4.3(b)。

3.5窄带随机过程

一个平稳过程,若它的功率谱带宽为有限值,那么称它为限带过程。在电子通信系统中所遇到的随机过程几乎都是限带过程。例如,无线广播系统中的中频信号及噪声。在限带过程中,根据其功率谱分布区域不同,又可分为低通过程(图3.5.1(a))和带通过程(图3.5.1(b))两大类。若带通过程中,满足Δωωc,则称之为高频窄带随机过程,简称窄带随机过程。它是通信系统中非常重要的一种随机过程,本节来详细学习它的分析方法。


图3.5.1限带过程


3.5.1基本概念
具体地,若平稳随机过程X(t)的功率谱密度SX(ω)满足下式: 


SX(ω)=SX(ω)ωc-Δω/2≤|ω|≤ωc+Δω/2


0其他(3.5.1)


波形的频带宽度为Δω,中心频率为ωc,且Δωωc,则称其为高频窄带随机过程。简称窄带随机过程。图3.5.1(b)是典型窄带随机过程的功率谱密度图示。
在通信、雷达等系统中,常常用一个宽平稳随机过程去激励一个窄带滤波器,这样在滤波器的输出端得到的就是一个窄带随机过程。若用一个示波器来观测此波形,则可看到,它接近于一个正弦波,但此正弦波的幅度和相位都在缓慢地随机变化,如图3.5.2所示。如何来理解这两个“缓慢变化”呢?
假如不将频带搬移到高频处,那么“窄带”之所以为窄,可以理解为低频分量。而低频分量在时域上就意味着缓慢变化(高频就

图3.5.2窄带随机过程的一个样本函数
意味着快速变化)。现在假设我们利用调制将频带搬移到高频处: 如果是调幅(数学上可以表示为a(t)cosωct),即调制载波的幅度,那么这个缓慢变化就表现为载波幅度的“缓慢变化”; 如果是调相(可表示为cos[ωct+φ(t)]),即调制载波的相位,那么这个缓慢的变化就表现为相位的“缓慢变化”。归根到底,“缓慢变化”之所以缓慢是因为其变化的频率一定远远小于载波ωc的频率。下面将从数学表达上证明这个缓慢变化。

3.5.2窄带随机过程的数学表示
1. 同相正交表示法(莱斯表达式)

可以证明(参见朱华撰写的《随机信号分析》),任何一个实平稳窄带随机过程X(t)都可以表示为


X(t)=Xc(t)
cos(ωct)-Xs(t)sin(ωct)(3.5.2)


其中,Xc(t)和Xs(t)是两个随机过程,通常称之为同相分量和正交分量,称这种表示法为同相正交表示法或莱斯(Rice)表达式。
由希尔伯特(Hilbert)变换,可以将两分量表示为: 


Xc(t)=X(t)(cosωct)+X^(t)(sinωct)

Xs(t)=-X(t)(sinωct)+X^(t)(cosωct)
(3.5.3)

其中,X^(t)是X(t)的希尔伯特变换。

2. 包络相位表示法(准正弦振荡)
窄带随机过程还可以仿照高频窄带信号的表示方法,表示成为


X(t)=AX(t)cos[ωct+φX(t)],AX(t)≥0(3.5.4)


其中,ωc是固定值,通常是窄带随机过程的中心频率或称载波频率。式中幅度AX(t)≥0并不是必需的条件,而是对幅度的一个假设,它和相位φX(t)都是慢变化的随机过程,因此我们常称幅度为包络。采用其包络函数和随机相位函数来表示随机过程,简称为包络相位表示法或准正弦振荡表示。
3. 同相分量、正交分量和包络、相位的关系
利用希尔伯特变换,不难得出以下关系式


Xc(t)=AX(t)cosφX(t)(3.5.5)

Xs(t)=AX(t)sinφX(t)(3.5.6)

AX(t)=X2c(t)+X2s(t)(3.5.7)

φX(t)=arctan[Xs(t)/Xc(t)](3.5.8)


可以用极坐标表示如图3.5.3所示,如果Xc(t)、Xs(t)都是慢变化的过程,则AX(t)和φX(t)也必定是慢变化的过程。


图3.5.3窄带随机过程的AX(t)、φX(t)和Xc(t)、Xs(t)的关系



既然随机过程X(t)可以分别由以上四个随机过程表示,可知X(t)的统计特性可以由Xc(t)、Xs(t)、AX(t)和φX(t)的统计特性决定。那么,已知X(t)的统计特性,如何确定Xc(t)、Xs(t)、AX(t)和φX(t)的统计特性?下面我们围绕这四个量来学习一个典型窄带过程——零均值、平稳高斯窄带随机过程的统计特性。
3.5.3零均、平稳高斯窄带过程的统计特性
假设X(t)为零均值、平稳高斯窄带随机过程,则具有以下的一些统计特性。
1. 正交分量Xs(t)和同相分量Xc(t)的统计特性
(1) 都是高斯随机过程
利用式(3.5.3),同时根据希尔伯特变换的线性变换特性,容易证明,由于X(t)是高斯过程,则Xs(t)和Xc(t)都是高斯随机过程。
(2) 均值皆为零


E[X(t)]=E[Xc(t)]cosωct-E[Xs(t)]sinωct(3.5.9)


因为假设零均值,说明对于任意时刻t都有E[X(t)]=0。所以可以得到两分量均值都为0,即


E[Xc(t)]=E[Xs(t)]=0(3.5.10)


(3) 都是广义平稳随机过程
根据平稳过程自相关函数定义和式(3.5.9),可得


RX(τ)=RX(t,t+τ)=E[X(t)X(t+τ)]

=E[Xc(t)Xc(t+τ)]cosωctcosωc(t+τ)

-E[Xc(t)Xs(t+τ)]cosωctsinωc(t+τ)

-E[Xs(t)Xc(t+τ)]sinωctcosωc(t+τ)

+E[Xs(t)Xs(t+τ)]sinωctsinωc(t+τ)
(3.5.11)


可以进一步简化如下


RX(τ)=RXc(t,t+τ)cosωctcosωc(t+τ)

-RXcXs(t,t+τ)cosωctsinωc(t+τ)

-RXsXc(t,t+τ)sinωctcosωc(t+τ)

+RXs(t,t+τ)sinωctsinωc(t+τ)
(3.5.12)


既然X(t)为零均值,平稳的随机过程,则其自相关函数与具体的时间无关。因此若令t=0(则sinωct=0),式(3.5.12)仍应成立。有下式


RX(τ)=[RXc(t,t+τ)]|t=0cosωcτ

-[RXcXs(t,t+τ)]|t=0sinωcτ
(3.5.13)



若要此式仅与时间间隔τ有关,则要求下式恒等


RXc(t,t+τ)=RXc(τ)

RXcXs(t,t+τ)=RXcXs(τ)
(3.5.14)

因此得出t=0时,下式成立


RX(τ)=RXc(τ)cosωcτ-RXcXs(τ)sinωcτ(3.5.15)


同理可以得出t=π/2ωc时,下式成立


RX(τ)=RXs(τ)cosωcτ+RXsXc(τ)sinωcτ(3.5.16)


由随机过程的正交分量和同相分量的统计特性知,均值为零,自相关函数仅与时间间隔有关,可见,零均值平稳随机过程X(t)其正交分量Xs(t)和同相分量Xc(t)也是广义平稳的。
(4) 其他主要性质
利用式(3.5.3),还能证明正交分量和同相分量的一些重要性质,这里由于篇幅关系,只给出结论,有兴趣的读者可以参考
相关文献。


RXc(0)=RXs(0)=RX(0)(3.5.17)


或


E[X2(t)]=E[X2c(t)]=E[X2s(t)](3.5.18)

σ2Xc=σ2Xs=σ2X(3.5.19)

RXcXs(τ)=-RXsXc(τ)(3.5.20)

RXcXs(τ)=-RXcXs(-τ)(3.5.21)

RXcXs(0)=0(互相关函数为0)(3.5.22)


即,在同一时刻,正交分量Xs(t)和同相分量Xc(t)互不相关。
结论1一个均值为零的窄带平稳高斯过程,它的正交分量Xs(t)和同相分量Xc(t)也是广义平稳高斯过程,且其均值都为零,方差也相同。另外,同时刻的Xs(t)和Xc(t)互不相关或统计独立。

2. 包络AX(t)和相位φX(t)一维分布函数

我们知道,利用Xc(t)、Xs(t)、AX(t)和φX(t)之间的关系,可以由(Xs,Xc)的二维概率密度f(Xs,Xc)求出(AX,φX)的二维概率密度函数。进而再通过边沿概率密度来推导出AX(t)、φX(t)的一维概率密度。
(1)  (Xs,Xc)的二维概率密度f(Xs,Xc)
由Xs(t)和Xc(t)在同一时刻相互独立,且服从高斯分布,可得出



f(Xs,Xc)=f(Xs)·f(Xc)

=12πσ2Xexp-X2s+X2c2σ2X

=12πσ2Xexp-A2X2σ2X
(3.5.23)

(2) (AX,φX)的二维概率密度f(AX,φX)

根据Xs(t)、Xc(t)与AX(t)、φX(t)的关系及概率论知识,可得到AX(t)、φX(t)的二维分布函数密度。


f(AX,φX)=f(Xs,Xc)·|J|=AX2πσ
2Xexp-A2X2σ2X(3.5.24)


其中J为雅可比因子,|J|=
XcAXXsAX

XcφXXsφX
=cosφXsinφX

-AXsinφXAXcosφX=AX
(3) 包络AX(t)和相位φX(t)一维分布函数

根据边际分布知识,可分别求得包络和相位的一维分布函数f(AX)和f(φX)。


f(AX)=∫+∞-∞f(AX,φX)dφX=AXσ2Xexp-A2X2σ2X(AX≥0)(3.5.25)


式(3.5.25)给出了包络AX(t)的一维概率密度函数,通常称之为瑞利(Rayleigh)分布,如图3.5.4。


f(φX)=∫+∞-∞f(AX,φX)dAX=12π
(0≤φX≤2π)(3.5.26)




图3.5.4包络的一维概率密

度符合瑞利分布

随机相位在(0,2π)区间呈均匀分布。
此外,由式(3.5.24)~式(3.5.26)还容易得出,在同一时刻t,包络和相位相互独立,或者说就一维分布而言,包络AX(t)和相位φX(t)统计独立。但注意,这不意味着随机过程AX(t)和φX(t)相互独立。

结论2一个均值为零,方差为σ2X的平稳高斯窄带随机过程,其包络AX(t)的一维分布服从瑞利分布,而其相位φX(t)的一维分布服从均匀分布,且就一维分布而言两者统计独立。
3.5.4正弦波加窄带高斯过程
在通信系统中,正弦波加窄带高斯噪声是经常碰到的情况,本小节来讨论这种情况下的随机过程的概率分布特性。
1. 数学表示式
设被考查的混合信号形式如下: 


r(t)=Acos(ωct-θ)+n(t)

=[Acosθ+x(t)]cosωct-[x(t)sinθ+y(t)]sinωct

=zcos(ωct+φ)(3.5.27)


其中,n(t)=x(t)cosωct-y(t)sinωct表示零均值窄带高斯噪声; θ在(0,2π)区间内均匀分布; z为包络随机变量; φ为相位随机变量。利用上节的方法,可以得出以下结论。
2. 分布特性
(1) 包络的概率密度


f(z)=zσ2exp-12σ2(z2+A2)
I0Azσ2,(z≥0)(3.5.28)


这个概率密度函数称为广义瑞利分布,也称莱斯密度函数。若A=0,则
式(3.5.28)就是式(3.5.25)的瑞利分布,此时r(t)不含有正弦波,只有窄带高斯噪声。
(2) 相位的概率密度
以相位θ为条件的相位φ的概率密度为f(φ/θ)


f(φ/θ)=12πe-γ
1+2πγcosφ·Φ(2γcosφ)exp(γcos2φ)
(3.5.29)


式中,γ=A22σ2,是信号平均功率与高斯窄带过程的平均功率之比。
图3.5.5绘出了特定A2/2σ2下f(z)及f(φ/θ)曲线。可见r(t)的包络和相位变化大致规律: 


图3.5.5正弦波加高斯窄带过程的包络和相位分布


① f(z)随着其信噪比γ的增加,逐步从瑞利分布(γ=0)到广义瑞利分布,再趋向正态分布(γ1); 而且其包络可能的取值也逐步增大,即曲线右移。
② f(φ/θ)随着其信噪比γ的增加,其相位随机变量变化范围愈来愈小,并逐步趋近于零相位(即信号本身的相位),而当γ→0时其趋近于均匀分布。
从以上分析可见,增大信噪比,可以减小噪声对信号包络和相位的干扰影响。

3.5.5宽带过程——白噪声
随机过程通常可按它的概率密度和功率谱密度的函数形式来分类。就概率密度而言,前面学习过的高斯分布(正态分布)的随机过程占有重要的地位; 就功率谱密度而言,则是具有均匀功率谱密度的白噪声非常重要。此外,从频带的角度说,白噪声又是相对于窄带过程的一种宽带过程,本小节就来学习它的特性。
1. 理想白噪声

在3.4.3节的例3.2中已经提到过白噪声的概念,即一种零均值的平稳随机过程,其功率谱密度在整个频域内都是均匀分布的噪声,被称为白噪声。并且已经求得了它的功率谱密度SX(ω)和自相关函数R(τ),通常其SX(ω)和R(τ)可表示为


SX(ω)=n02 (W/Hz)(3.5.30)

R(τ)=n02δ(τ)(3.5.31)


由图3.4.2可见,白噪声的自相关函数仅在τ=0时才不为零; 对于其他时刻都为零。这意味着,白噪声只在τ=0才相关,而在其他任意时刻上的随机变量都是不相关的。我们把满足以上条件的白噪声称为理想白噪声。

根据其定义,理想白噪声的均方值为无限大。而物理上存在的随机过程,其均方值总是有限的。在实际工作中,当所研究的随机过程通过某一系统时,只要过程的功率谱密度在一个比系统带宽大得多的频率范围内近似均匀分布,就可以把它作为白噪声来处理。电子设备中的许多起伏过程都可以认为是白噪声,如电阻热噪声、晶体管的散粒噪声等。

2. 带限白噪声
带限白噪声是另外一个常用的概念。若一个具有零均值的平稳随机过程X(t),其功率谱密度在某一个有限频率范围内均匀分布,而在此范围外为零,则称这个过程为带限白噪声。
当白噪声被限制在(-f0,f0)之内,则称为低通型带限白噪声,即


SX(ω)=n0/2(|f|<f0)


0其他(3.5.32)


其自相关函数为


R(τ)=2f0n02sinω0τω0τ(3.5.33)


式中,ω0=2πf0。如图3.5.6可见,带限白噪声只有在k/2f0(k=1,2,3,…)上得到的随机变量才不相关。


图3.5.6低通型带限白噪声

对于带通型带限白噪声,请读者自己去学习。

3.6随机过程通过线性系统

通常把各种电子系统分为线性和非线性系统两大类,有关非线性的内容不属于本书的范畴,这里就不作讲述了。本节将要学习的是随机过程通过线性系统的分析。线性系统分析的中心问题是给定一个输入信号求输出响应。对于确定性信号输入的情况,我们已经在其他课程中进行了详细地学习,通常可以得到响应和输出的明确表达式。而对于随机信号而言,要想得到明确的输出的表达式是不大可能的。不过通过前面的学习我们已经知道,对于随机过程来说,我们可以很方便地通过其相关函数、功率谱密度等统计特性来描述。因此,本节要研究的就是如何根据输入随机信号的统计特性和该系统的传递特性,来确定系统输出的统计特性。首先我们先来简单回顾一下有关确定信号线性系统分析的内容。
3.6.1线性系统分析(简单回顾)
以连续时不变线性系统为例,设x(t)是连续时不变线性系统的输入,则系统输出y(t)由卷积积分得到


y(t)=∫+∞-∞x(t-τ)h(τ)dτ=∫+∞-∞x(τ)h(t-τ)dτ=x(t)*h(t)(3.6.1)


式中,h(t)是单位冲激函数δ(t)作用于系统后的输出,称为系统的单位冲激响应。
如果存在


x(t)X(ω)=∫+∞-∞x(t)e-jωtdω

h(t)H(ω)=∫+∞-∞h(t)e-jωtdω(3.6.2)


则称该系统是稳定的。H(ω)称作系统的传递函数,它与h(t)是一对傅里叶变换对。
则有系统输出满足


y(t)Y(ω)=H(ω)·X(ω)(3.6.3)


考虑系统是物理可实现的,即因果系统,则式(3.6.1)可写为


y(t)=∫∞0x(t-τ)h(τ)dτ=∫t-∞x(τ)h(t-τ)dτ(3.6.4)


3.6.2平稳随机过程通过线性系统
可以证明,随机过程通过线性系统时,在给定系统的条件下,输出均值、相关函数及功率谱密度仅取决于输入均值、相关函数及功率谱密度,而与输入信号的其他统计特性无关。设输入是平稳随机过程X(t),下面我们来分析系统的输出过程Y(t)的统计特性——数学期望、方差、相关函数和功率谱密度函数以及输出过程的概率分布。
1. 输出过程

具体地,由式(3.6.4)假设稳定的线性系统输入的是随机过程的一个实现(某个实验结果的一个样本函数)xi(t),则必将得到一个系统响应y(t)。我们可以将其看作是输出随机过程Y(t)的一个实现。则可以得到


Y(t)=∫∞0X(t-τ)h(τ)dτ=h(t)*X(t)(3.6.5)


对于具有有界随机输入信号的连续系统,式(3.6.5)可以确定其输出过程。
2. 输出均值——数学期望
由式(3.6.5),容易得出


mY(t)=E[Y(t)]=E∫∞0X(t-τ)h(τ)dτ

=∫∞0E[X(t-τ)]h(τ)dτ

=h(t)*E[X(t)]

=h(t)*mX(t)
(3.6.6)


又因为根据平稳性假设,有E[X(t-τ)]=E[X(t)],再者


H(0)=H(ω)|ω=0=∫∞0h(τ)dτ(3.6.7)


所以


mY(t)=mX(t)·H(0)(3.6.8)


可见,输出过程的数学期望与t无关。
3. 输出的自相关函数
根据自相关函数的定义,以及输入过程的平稳性假设,容易求出


RY(t1,t1+τ)=E[Y(t1)Y(t1+τ)]

=E∫∞0h(α)X(t1-α)dα∫∞0h(β)X(t1+τ-β)dβ

=∫∞0∫∞0h(α)h(β)E[X(t1-α)X(t1+τ-β)]dαdβ

=∫∞0∫∞0h(α)h(β)RX(τ+α-β)dαdβ

=RX(τ)*h(τ)*h(-τ)

=RY(τ)(3.6.9)


可见,输出过程的自相关函数仅与时间间隔有关。所以,平稳随机过程通过因果线性时不变系统的输出过程也是平稳的。
4. 输出的功率谱密度
利用维纳辛钦公式和式(3.6.9),以及傅里叶变换的频域卷积定理,容易求得


SY(ω)=SX(ω)H(ω)H(-ω)=|H(ω)|2SX(ω)(3.6.10)


式中,H(ω)是系统的传输函数,其幅频特性的平方|H(ω)|2称为系统的功率传输函数。这个结论非常重要,今后在通信系统性能分析中会经常用到。
5. 高斯输入过程的输出过程的分布
在3.3.5节讲解高斯过程中,我们曾经提到高斯过程具有这样的性质“高斯过程经过线性变换(或通过线性系统)后的过程仍是高斯过程”。本书不对此作出证明,详细的证明请参见文献(朱华撰写的《随机信号分析》)。这里需要特别指出的是,线性变换前后虽然保持了随机过程的高斯特性,但它们的一、二阶矩均发生了变化,不再与输入相同。


图3.6.1RC低通滤波器


例3.4试求功率谱密度为SX(ω)=n0/2的白噪声通过图3.6.1所示的RC低通滤波器后的功率谱密度SY(ω)、自相关函数RY(τ)及噪声功率PY。

解已经该电路的传输函数为


H(ω)=bb+jω,b=1RC


则电路的功率传输函数为


|H(ω)|2=b2b2+ω2


由式(3.6.10)可得,输出功率谱密度为


SY(ω)=|H(ω)|2SX(ω)=n0b22(b2+ω2)


由维纳辛钦公式可得出输出自相关函数为


RY(τ)=12π∫+∞-∞SY(ω)ejωτdω=n0b4e-b|τ|


噪声功率,即输出过程的平均功率为


PY=RY(0)=n0b4e-b|0|=n0b4



上例中利用功率谱密度的关系来分析的方法称为频域分析法。本例也可以采用时域分析法,即根据已知的功率谱密度求出输入噪声的自相关函数,然后利用式(3.6.9)求得输出端的自相关函数,最后类似地,利用维纳辛钦公式也可以求出输出的功率谱密度和总的平均功率,读者可以自行去求解,结果与上面给出的结果是相同的。当然,本例中时域分析法显然没有频域分析法简便。实际中,两种方法在不同的情况下各有优势,要根据具体情况具体分析。
*3.7马尔可夫(Markov)过程
马尔可夫过程是电子通信系统中最常见到的一种随机过程,它在信息处理、自动控制、近代物理、计算机科学以及公用事业等很多方面都有非常重要的应用,例如常常提到的泊松过程和维纳过程就是两种特殊的马尔可夫过程。本节将简要介绍其基本概念,包括定义和特性。然后以实际应用中的例子来学习有关马尔可夫过程。
3.7.1基本概念
马尔可夫过程是一种无后效的随机过程。所谓无后效性是指,当过程在时刻tm所处的状态为已知时,过程在大于tm的时刻所处状态的概率特性只与过程tm时刻所处的状态有关,而与过程在tm时刻以前的状态无关。又称这种特性为马尔可夫性。

例如,电话交换站在t时刻前来到的呼叫数X(t)(即时间[0,t]内来到的呼叫次数)是一个随机过程。已知现在tm时刻以前的呼叫次数,未来时刻t(t>tm)前来到的呼叫数只依赖于tm时刻以前的呼叫次数,而[tm,t]内来到的呼叫数与tm时刻以前的呼叫次数相互独立。因此,X(t)具有无后效性,属于一种马尔可夫过程。

马尔可夫过程按照参数集和状态空间(值域)的情况一般可分为四大类: 时间离散、状态连续的马尔可夫过程称为马尔可夫序列; 时间离散、状态离散的马尔可夫过程,通常称之为马尔可夫链,简称马氏链; 时间连续、状态离散的马尔可夫过程称为可列马尔可夫过程; 时间连续、状态连续的
称为马尔可夫过程。上面的例子就是一种可列马尔可夫过程,而物理上熟知的布朗运动(Brown)则属于最后一种马尔可夫过程。下面我们对其中应用最广泛的马尔可夫序列和马氏链进行介绍。其他内容请参考相关文献。
3.7.2马尔可夫序列
1. 定义

设随机变量序列X1,X2,…,Xn是随机过程X(t)在t为整数时刻的采样值,则有如下定义。
定义若对于任意的n,有


FX(xn|xn-1,xn-2,…,x1)=FX(xn|xn-1)(3.7.1)


即,如果在条件xn-1,xn-2,…,x1之下,xn的条件分布等于仅在条件xn-1之下xn的条件分布,则称此随机变量序列为马尔可夫序列。这一分布函数常被称为转移分布。
2. 性质
① 马尔可夫的子序列仍为马尔可夫序列。
② 一个马尔可夫序列,按其反序列组成的逆序列仍为马尔可夫序列。
③ 由定义式(3.7.1),有


E[Xn|xn-1,xn-2,…,x1]=E(Xn|xn-1)(3.7.2)


④ 在一个马尔可夫序列中,我们可以说,若现在已知,则未来和过去无关。
⑤ 马尔可夫序列的概念可以推广。满足式(3.7.1)的序列为1重马尔可夫序列,而对任意n满足


FX(xn|xn-1,xn-2,…,x1)=FX(xn|xn-1,xn-2)(3.7.3)


的序列称为2重马尔可夫序列。依此类推,可以得到多重马尔可夫序列。
⑥ 一个马尔可夫序列的转移概率密度满足


fX(xn|xs)=∫+∞-∞fX(xn|xr)fX(xr|xs)dxr(3.7.4)


其中,n>r>s为任意整数。此式就是著名的切普曼柯尔莫哥洛夫(ChapmanKolmogorov)方程。
3.7.3马尔可夫链
1. 定义

定义假定随机过程X(t)在每个时刻tn(n=1,2,…)的采样为Xn=X(tn),Xn所可能取的状态为a1,a2,…,aN之一,而且过程只在t1,t2,…,tn时刻发生状态转移。在这一情况下,若过程在时刻tm+k变成任一状态ai(m+k)的概率,只与过程在tm时刻的状态有关,而与过程在tm时刻以前的状态无关,可用公式表示为



P{Xm+k=aim+k|Xm=aim,Xm-1=aim-1,…,X1=ai1}

=P(Xm+k=aim+k|Xm=aim)
(3.7.5)


则称此随机过程为马尔可夫链,简称马氏链。实际上,它是状态离散的随机序列Xn。
2. 马氏链的转移概率及其矩阵
式(3.7.5)中右边条件概率形式为


pij(m,m+k)=P{Xm+k=aj|Xm=ai}(3.7.6)


即我们以pij(m,m+k)表示马氏链“在tm时刻出现Xm=ai条件下,tm+k时刻出现Xm+k=aj的条件概率”。式中,i,j=1,2,…,N; m,k皆为正整数。我们称pij(m,m+k)为马氏链的转移概率。

一般而言,pij(m,m+k)不仅依赖于i、j、k,而且依赖于m。如果pij(m,m+k)与m无关,则称之为齐次马尔可夫链,或者时齐马氏链。这种马氏链的状态转移概率仅与转移的出发状态i、转移步数k、转移到达状态j有关,而与转移的起始时刻m无关。此时,k步转移概率可记为pij(k)。

当k=1时,pij(1)称为一步转移概率,简记为pij。
3.7.4应用举例
例3.5在某数字通信系统中传递0、1两种信号,且传递要经过若干级。因为系统中有噪声,各级将会造成错误。若某级输入0、1数字信号后,其输出不产生错误的概率为p(即各级正确传递信息的概率),产生错误的概率为q=1-p,则该级输入状态和输出状态构成了一个两状态的马氏链,它的一步转移概率矩阵为



P=pq

qp


则二维转移概率矩阵为


P(2)=(P)2=pq

qppq

qp=p2+q22pq

2pqp2+q2


3.8思考题
3.8.1简述随机过程的基本概念,说明它和随机变量的关系。
3.8.2试分析随机过程的数字特征,均值、方差、均方值和自相关函数之间的关系,并说明为什么数学期望和相关函数是随机过程的基本数字特征。
3.8.3什么是平稳随机过程?广义和狭义如何区分?
3.8.4说明平稳随机过程的自相关函数具有怎样的性质。
3.8.5何谓各态历经性,它在实际工作中意义是什么?
3.8.6什么是高斯噪声?什么是白噪声?什么是加性高斯白噪声?它们各自具有怎样的特点?
3.8.7窄带随机过程有哪几种数学表达方式?彼此有什么关系?
3.8.8什么是窄带高斯噪声?它的包络与相位各服从什么分布?在此噪声上叠加正弦波后,包络与相位又服从什么概率分布?
3.8.9平稳随机过程通过线性系统时,输出随机过程和输入随机过程的功率谱密度之间有什么关系?
3.8.10说明马尔科夫过程的无后效性,并举例说明其应用。
3.9习题

3.9.1已知随机过程X(t)总共有两条样本曲线,x1(t)=acosω1t,x2(t)=
-acosω2t。其中常数a>0,且随机变量的概率P(ω1)=2/3,P(ω2)=1/3,试求X(t)的数学期望mX(t)和相关函数RX(t1,t2)。
3.9.2为什么说各态历经过程一定是平稳过程?
3.9.3试证明平稳过程自相关函数的性质。
3.9.4试证明高斯过程的性质,即高斯过程广义平稳,则狭义平稳。
3.9.5对热噪声X(t)进行等时间间隔采样,便得到一个随机序列X(n)(n=0,±1,±2,…),它具有如下性质:
① |X(n)|相互独立; ② X(n)服从N(0,σ2)分布。
试讨论序列X(n)的平稳性。
3.9.6已知平稳过程的功率谱密度如下:


SX(ω)=ω2+1ω4+10ω2+9


求它的相关函数RX(τ)和平均功率PX(ω)。(提示: 将SX(ω)化解为部分分式后再求傅里叶反变换)
3.9.7有一随机过程ζ(t)按概率1/2、1/4、1/4取常值1、2、3。求ζ(t)的均值E[ζ(t)]、方差D[ζ(t)]、自相关函数Rζ和平均功率P。
3.9.8已知随机过程X(t)=Acosω0t+Bsinω0t,式中ω0为常数; A与B是两个具有不同概率密度的独立的随机变量,且它们的均值为0、方差为σ2。证明X(t)是宽平稳的随机过程,而不是严平稳的随机过程。
3.9.9若系统的输入X(t)为平稳随机过程,系统的输出为Y(t)=X(t)+X(t-T)(如图3.9.1所示)。试证
明过程Y(t)的功率谱密度为SY(ω)=2SX(1+cosωT)。


图3.9.1


3.9.10设式X(t)=a(t)cosω0t-b(t)sinω0t所表示的窄带随机过程的功率谱密度SX(f),如图3.9.2所示。若在SX(f)频带内分别选择f0为100Hz和98Hz。试求这两种情况下的a(t)的Sa(f)和Ra(τ)。


图3.9.2


3.9.11设某信号处理器方框图如图3.9.3所示,其输入为窄带平稳随机信号S(t)。已知低通滤波器的宽带远小于窄带信号的中心频率,模数转换器A/D在t=nT时刻进行采样,同相支路数字滤波器H(ejω)的输入与其输出X(n)之间的关系为: 


w(n)=X(n)-2X(n-1)-X(n-2)


试求同相支路输出W(n)的功率谱密度。


图3.9.3


3.9.12对于零均值、δ2方差的窄带平稳高斯过程为


X(t)=a(t)cosω0t-b(t)sinω0t=Acos[ω0t+φ(t)]


试证明包络A(t)在任意时刻所给出的随机变量At的均值和方差分别为


E[At]=π2δ,δ2At=
2-π2δ


3.9.13两个相互独立的随机电压信号X1(t)与X2(t)施加于如图3.9.4所示的RC网络上。已知SX1(ω)=K,SX2(ω)=2aa2+ω2,假设电路中的电阻是无噪的,求系统输出自相关函数RY(τ)和功率谱密度SY(ω)。


图3.9.4


3.9.14若电路如图3.9.5所示,已知输入白噪声X(t)的单边功率谱密度为n0/2,试分别求图
3.9.5(a)和图3.9.5(b)中输出Y(t)的功率谱密度和自相关函数。


图3.9.5