随机过程在通信中的应用

随机过程综述报告 马尔可夫过程在通信中的理论及应用 院系:信息工程学院 专业:信息与通信工程 姓名: 学号: 马尔可夫过程在通信中的理论及应用 随机过程是与时间相关的随机变量,在确定的时刻它是随机变量。随机过程的具体取值称作其样本函数,所有样本函数构成的集合称作随机过程的样本函数空间,所有样本函数空间及其统计特性即构成了随机过程。 研究随机现象,主要就是研究它的统计特征,了解通信领域的随机过程分布的应用又是我们学习的重点和最终目的,下面我们简单地谈谈其相关内容,首先,我们先了解一下随机过程的分类在通信领域中有哪些体现。按照随机过程的参数集和状态空间是连续还是离散可以分为四类:一是参数离散、状态离散的随机过程,或叫做离散随机过程。如贝努力过程等;二是参数参数离散、状态连续的随机过程,或(连续)随机序列。如DAC(数模变换)过程中对随机信号进行采样;三是参数连续、状态离散的随机过程。如程控设备转接语音电话的次数,跳频设备在通信过程中改变频率的次数等;四是参数连续、状态连续的随机过程。如扫频仪的扫频信号进行扫频,各类信号中的纹波电压等。 马尔科夫过程(MarKov Process)是一个典型的随机过程。设X(t)是一随机过程,当过程在时刻t0所处的状态为已知时,时刻t(t>t0)所处的状态与过程在t0时刻之前的状态无关,这个特性成为无后效性。无后效的随机过程称为马尔科夫过程。马尔科夫过程中的时同和状态既可以是连续的,又可以是离散的。我们称时间离散、状态离散的马尔科夫过程为马尔科夫链。马尔科夫链中,各个时刻的状态的转变由一个状态转移的概率矩阵控制。 20世纪50年代以前,研究马尔可夫过程的主要工具是微分方程和半群理论(即分析方法);1936年前后就开始探讨马尔可夫过程的轨道性质,直到把微分方程和半群理论的分析方法同研究轨道性质的概率方法结合运用,才使这方面的研究工作进一步深化,并形成了对轨道分析必不可少的强马尔可夫性概 念。1942年,伊藤清用他创立的随机积分和随机微分方程理论来研究一类特殊而重要的马尔可夫过程──扩散过程,开辟了研究马尔可夫过程的又一重要途径。 还应该指出,马尔科夫所建立的概率模型不但具有深刻的哲学意义,而且具有真实的物质背景,在他的工作之前或同时,一些马尔科夫链或更复杂的随机过程的例子已出现在某些人的研究中,只不过这些人没有自觉地认识到这类模型的普遍意义或用精确的数学语言述出来罢了。 完成了关于链的大数定律的证明之后,马尔科夫又开始在一系列论文中研究链的中心极限定理。1907年他在《一种不平常的相依试验》中证明了齐次马尔科夫链的渐近正态性。与此同时他在一些假定的前提下证明了模型的各态历经性,成为在统计物理中具有重要作用的遍历理论中第一个被严格证明的结果。遍历理论亦称ergodic理论, 是奥地利物理学家玻耳兹曼(L. Boltzmann, 1844-1906) 于1781年提出来的,其大意是:一个系统必将经过或已经经过其总能量与当时状态相同的另外的任何状态。 马尔可夫随机过程的发展史说明了理论与实际之间的密切关系。许多研究方向的提出,归根到底是有其实际背景的。反过来,当这些方向被深入研究后,又可指导实践,进一步扩大和深化应用范围。下面简略介绍一下马尔可夫随机过程本身在各方面的应用情况。马尔可夫信源概述。 马尔可夫信源是一类相对简单的有记忆信源,信源在某一时刻发出某一符号的概率除与该符号有关外,只与此前发出的有限个符号有关。 图 马尔可夫信源模型 我们把前面若干个符号看作一个状态,可以认为信源在某一时刻发出某一符号的概率除了与该符号有关外,只与该时刻信源所处的状态有关,而与过去的状态无关。信源发出一个符号后,信源所处的状态即发生改变,这些状态的变化组成了马氏链。 马尔可夫信源有记忆的特点:有限记忆长度;信源输出不仅与符号集有关,而且与状态有关;每发一个符号状态要发生转移。所谓状态,是指有限的相关符号组构成的序列。 信源的状态集: 信源基本符号集: 在每一状态下可能输出的符号: 输出随机符号序列: 121......l l X X X X - 输出随机状态序列:121......l l S S S S - 设l 时刻信源处于i e ,输出k x 的概率为 在l 时刻,其前一时刻的状态i e 之下而转移到j e 的状态转移概率为 称为一步状态转移概率 信源输出的随机状态序列:121......l l S S S S -构成一个马尔可夫链 一般与时刻l 相关 如果上述条件概率与时刻l 无关,称随机过程为时齐的。即有: 此时,信源输出的随机状态序列:121......l l S S S S -构成时齐马尔科夫链 马尔可夫信源: 以信源输出符号序列内各符号间条件概率来反映记忆特性的一类信源,其满足下列条件: (1) 某时刻输出符号仅与此刻信源所处的状态有关; 111(/,,,...)(/)l l k l i l j k i l P k p x S e x S e x e X X --===== 当具有时齐性时,满足(/)(/)k i k i l p p x e x e = (2)某时刻所处状态由当前输出符号与前一时刻信源状态唯一确定。 马尔可夫信源输出的状态序列呈时齐马尔科夫链。 下面是一个马尔可夫信源的分析实例,马尔可夫信源的信源符号 123{,,}X x x x ∈,其可能的状态12345{,,,,}S e e e e e ∈,状态转移图及 矩阵如下所示: a)状态转移图b)矩阵表示 c)一步转移矩阵 图马尔可夫信源的状态转移图及相关矩阵 马尔克夫随机过程在通信中的应用: 在通信、雷达探测、地震探测等领域中,都有传递信号与接收信号的问题。 传递信号时会受到噪声的干扰,为了准确地传递和接收信号,就要把干扰的性质分析清楚,然后采取办法消除干扰。这是信息论的主要目的。 图通信系统模型 上图是通信系统模型。从信息论的角度来说,通信的过程就是不确定度减小的过程。而不确定性就是过程的随机性,通信系统中用于表示信息的信号不可能是单一的确定的,而是具有不确定性和随机性的。这种具有不确定性,随机性的信号即称为随机信号。同时通信系统中存在各种干扰和噪声,这些干扰和噪声的波形更具有随机性,是不可预测的,我们称其为随机噪声。尽管随机信号和随机噪声都是不可预测的,但是它们具有一定的统计规律性。 在通信系统中,编码过程分为信源编码和信道编码两种,信源编码是为了压缩信息之间的相关性,最大限度提高传信率,目的在于提高通信效率;而信道编码则相反,通过引入相关性,使信息具有一定的纠错和检错的能力从而提高传输信息的可靠性。 对于信源编码,实现降低相关性有两种途径,一种是信源概率分布均匀化,另一种是信源独立化。从概率论和随机过程的角度来说,概率分布均匀化就是每个事件发生的概率大致相同,这样就会使每个信源携带的信息量基本相同,那么不确定性就达到最大,即传输过程中产生的信息量就最大;类似的信源独立化是通过对信源进行扩展达到的,通过信源的高次扩展,是扩展信源中每个 符号出现的概率大致相同,这样也实现信息量最大化。 对于信道编码,由于信道中存在随机噪声,或者随机干扰,使得经过信道传输后所接收到的码元与发送码元之间存在差异,这种差异就是传输产生的差错。一般信道噪声干扰越大,码元产生差错的概率也就越大。 所以信道编码的任务就是构造出以最小冗余度代价换取最大抗干扰性能的码字组合。从信道编码的构造方法看,其基本思路是根据一定的规律在待发送的信息码中加入一些人为多余的码字。这些码字的引入时信息之间具有相关性,虽然降低了信息所能携带的信息量,但是通过相关性可以克服由于随机噪声引入的误码情况。 马尔可夫信源是一类有限长度记忆的非平稳离散信源,信源输出的消息是非平稳的随机序列,它们的各维概率分布可能会随时间的平移而改变。由于马尔可夫信源的相关性及可压缩性,它已成为信息领域的热点问题。随机过程理论是研究随机信号和信息论的数学工具,针对不同的通信系统我们可以建立相应的数学模型。