为了正常的体验网站,请在浏览器设置里面开启Javascript功能!
首页 > 2011秋-随机过程(第一章)

2011秋-随机过程(第一章)

2014-01-21 50页 ppt 1MB 61阅读

用户头像

is_067184

暂无简介

举报
2011秋-随机过程(第一章)null随机过程随机过程马春光machunguang@hrbeu.edu.cn 哈尔滨工程大学课程信息课程信息学时 32学时;4学时/周。 课程性质 考试课 考核方式 闭卷,笔试 教材和主要参考书目 课程信息课程信息主要教材 随机过程.张卓奎, 陈慧婵.西安电子科技大学出版社,2003 参考书目 随机过程同步学习辅导.张卓奎, 陈慧婵.西安电子 科技大学出版社,2004 Dimitri P. Bertsekas, John N. Tsitsiklis. Introduction to Probability. MIT Le...
2011秋-随机过程(第一章)
null随机过程随机过程马春光machunguang@hrbeu.edu.cn 哈尔滨工程大学课程信息课程信息学时 32学时;4学时/周。 课程性质 考试课 考核方式 闭卷,笔试 教材和主要参考书目 课程信息课程信息主要教材 随机过程.张卓奎, 陈慧婵.西安电子科技大学出版社,2003 参考书目 随机过程同步学习辅导.张卓奎, 陈慧婵.西安电子 科技大学出版社,2004 Dimitri P. Bertsekas, John N. Tsitsiklis. Introduction to Probability. MIT Lecture Notes. 第1章 概率论基础第1章 概率论基础1.1 概率空间 1.2 随机变量及分布 1.3 随机变量的数字特征 1.4 随机变量的特征函数 1.5 n维正态随机变量 1.6 条件数学期望第1章 概率论基础第1章 概率论基础1.1 概率空间 1.2 随机变量及分布 1.3 随机变量的数字特征 1.4 随机变量的特征函数 1.5 n维正态随机变量 1.6 条件数学期望 1.1 概率空间1.1 概率空间样本空间 一个试验(experiment)所有可能出现的结果的全体称为样本空间(sample space),记为Ω. 样本点 试验的一个结果称为样本点(sample),记为ω,即Ω = {ω}. 随机事件 样本空间的某个子集称为随机事件,简称为事件(event).1.1 概率空间1.1 概率空间定义1.1.1 设Ω是样本空间,F 是Ω的某些子集构成的集合,如果 (1)Ω∈ F (2)若A∈ F 则Ā ∈ F(对差运算封闭) (3)若A∈ F ,n=1,2,…,则 F (对并运算封闭) 那么称 F 为一事件域,也称F 为σ域 显然,如果 F 是一事件域,那么 (1) Ø∈ F ; (2) 若A,B∈ F ,则A-B∈ F ; (3) 若An ∈ F ,n=1,2,…则 F . 1.1 概率空间1.1 概率空间定义1.1.2 设Ω是样本空间,F 是一事件域,定义在F 上的实值函数P(∙),如果满足 (1) (Nonnegativity,非负性)对F 中的任意事件A,P(A)≥0 ; (2) (Normalization,归一性) P(Ω)=1 ; (3) (Additivity,可加性)对F 中任意事件An,n =1,2,…,AiAj=Ø, i≠j, i,j =1,2,… ,有 那么,称P是二元组 (Ω, F ) 上的概率(Probability),称P(A)为事件A的概率,称三元组 (Ω, F, P) 为概率空间(Probability Space).1.1 概率空间1.1 概率空间概率空间 ( Ω , F , P )1.1 概率空间1.1 概率空间概率的性质 1.1 概率空间1.1 概率空间 一列事件An∈F ,n=1,2,…,称为单调递增的事件列,如果An An+1,n=1,2,…。一列事件 An∈F ,n=1,2,…,称为单调递减的事件列,如果An An+1,n=1,2,…。 定理1.1.1 设An∈F ,n=1,2,… (1)若An,n=1,2,…,是单调递增的事件列,则 (2)若An,n=1,2,…,是单调递减的事件列,则1.1 概率空间定义1.1.3 设(Ω, F ,P)为一概率空间, A,B∈ F 且P(A)>0,则称 为事件A发生的条件下事件B发生的条件概率。不难验证,条件概率P(∙|A)符合定义1.1.2中的三个条件, (1) F ,P(B|A)≥0; (2) P(Ω|A)=1; (3) 设Bn∈F ,n =1,2,…,Bi Bj = Ø, i≠j, i,j =1,2,…,则 1.1 概率空间1.1 概率空间1.1 概率空间定理1.1.2 设(Ω, F ,P)是一概率空间,有: (1) (乘法公式) 若Ai∈F ,i=1,2,…,n,且 P(A1A2…An)>0,则 1.1 概率空间1.1 概率空间(2) (全概率公式) 设B∈F , Ai∈ F ,P(Ai)>0,i=1,2,…, 且 Ai Aj=Ø, i≠j, i,j=1,2,… , ,则 1.1 概率空间1.1 概率空间(3) (贝叶斯(Bayes)公式) 设B∈F ,P(B)>0, Ai∈ F ,P(Ai)>0,i=1,2,…,且Ai Aj=Ø, i≠j, i=1,2,…, 1.1 概率空间1.1 概率空间定义1.1.4 设(Ω, F ,P)为一概率空间, Ai∈F , i=1,2,…,n,如果对于任意的k(1证明
,设F(x),x∈R是单调不减、右连续的函数,并且 ,则必存在概率空间(Ω, F ,P) 及其上的一个随机变量 X 使得 X 以F(x)为其分布函数。1.2 随机变量及其分布1.2 随机变量及其分布 随机变量有两种类型:离散型和连续型随机变量 随机变量 X 的可能取值为有限(finite)个或可列无限个(countably infinite),则称 X 为离散型随机变量(discrete r.v.). 离散型随机变量 X 的分布可用分布律(Probability Mass Function,PMF)来描述,即 P(X = xi )= pi ,i=1,2,… 这时,X的分布函数为 1.2 随机变量及其分布1.2 随机变量及其分布设随机变量X的分布函数为F(x),如果存在非负可积函数 f(x),使得 则称 X 为连续型随机变量(Continuous r.v.), f(x)为连续型随机变量 X 的概率密度函数(Probability Density Function,PDF). 1.2 随机变量及其分布1.2 随机变量及其分布定义1.2.2 设(Ω, F ,P)为一概率空间,定义在Ω上的n元实函数 如果 则称X=(X1,X2,…,Xn)为n维随机变量或n维随机向量. 称 为X的联合分布函数(Joint CDFs).1.2 随机变量及其分布1.2 随机变量及其分布设X是n维随机变量,则X的联合分布函数具有下列性质 (1)F(x1,x2,…,xn)对任一xi(i=1,2,…,n)是单调不减函数; (2)F(x1,x2,…,xn)对任一xi(i=1,2,…,n)是右连续函数; (3) (4)设xi≤yi,i=1,2,…,n,则 1.2 随机变量及其分布1.2 随机变量及其分布若n维随机变量X的可能取值为有限对或可列无限对,则称n维随机变量X为离散型n维随机变量. 离散型n维随机变量X=(X1,X2,…,Xn)的分布可用联合分布律来描述,即 P(X1=x1,X2=x2,…,Xn=xn) 其中xi∈Ii, Ii是离散集,i=1,2,…,n这时X的联合分布函数为 1.2 随机变量及其分布1.2 随机变量及其分布设n维随机变量X的联合分布函数为F(x1,x2,…,xn),如果存在非负可积函数f(x)=f(x1,x2,…,xn),x∈Rn使得 则称X为连续型n维随机变量, f(x1,x2,…,xn),称为连续型n 维随机变量X的联合概率密度函数。1.2 随机变量及其分布1.2 随机变量及其分布 保留k(1≤k0的y的取值的公共部分。 1.2 随机变量及其分布1.2 随机变量及其分布 若g(x)不是严格单调的可微函数,则将g(x)在其定义域分成若干个单调分支,在每个单调分支上应用(1)的结果 得Y=g(X)概率密度函数为 其中I 是在每个单调分支上按照(1)确定的y的取值的公共部分. 1.2 随机变量及其分布1.2 随机变量及其分布例1.2.1 设 ,试求Y的概率密度函数fY(y)。 解 由于y=tan x,故其反函数h(y)=arctan y, 并且 因此Y的概率密度函数 1.2 随机变量及其分布1.2 随机变量及其分布例1.2.2 设X~N(0,1),求Y=X2的概率密度函数fY(y) 解 由于y=x2有两个单调分支,其反函数分别为 并且 因而Y=X2的概率密度函数为 1.2 随机变量及其分布1.2 随机变量及其分布例1.2.3 设(X,Y)为二维随机变量,其中X,Y相互独立并且都服从正态分布N(0,σ2),记Z为(X,Y) 的模,Θ为(X,Y)的辅角,求(Z,Θ)的联合概率密度函数及边缘概率密度函数。1.2 随机变量及其分布1.2 随机变量及其分布 解 由于 X,Y 相互独立,因此 又因为方程组 有唯一解(反函数)1.2 随机变量及其分布1.2 随机变量及其分布 所以(Z,Θ)的联合概率密度函数为 1.2 随机变量及其分布1.2 随机变量及其分布 故 从Z,Θ的概率密度函数可以看出,Z服从为σ的Rayleigh分布,Θ服从区间 上的均匀分布,并且 g(z,ө)=gZ(z)gΘ(ө)所以Z和Θ是相互独立的第1章 概率论基础第1章 概率论基础1.1 概率空间 1.2 随机变量及分布 1.3 随机变量的数字特征 1.4 随机变量的特征函数 1.5 n维正态随机变量 1.6 条件数学期望 1.3 随机变量的数字特征1.3 随机变量的数字特征定义1.3.1 设f(x),g(x)是定义在[a,b]上的两个有界函数, a=x00,DY>0,则称 为随机变量X,Y的相关系数。若ρXY=0则称X,Y不相关1.3 随机变量的数字特征1.3 随机变量的数字特征 根据定理1.3.1,若X的分布函数为F(x)则 当X是离散型随机变量是,其分布律为 P(X=xi)=pi, i=1,2,… 则 当X是连续型随机变量时,其概率密度为f(x),则 1.3 随机变量的数字特征1.3 随机变量的数字特征 根据定理1.3.2,若(X,Y)的联合分布函数为F(x,y) 则 当(X,Y)是离散型随机变量时,其联合分布律为 P(X=xi,Y=yi)=pij, i,j=1,2,… 则 当(X,Y)是连续型随机变量时,其联合概率密度为f(x,y) 则1.3 随机变量的数字特征1.3 随机变量的数字特征随机变量的数学期望和方差具有下列5个性质 (1) 设a,b是任意的常数,则E(aX+bY)=aEX+bEY; (2) 设X,Y相互独立,则EXY=EXEY; (3) 设a,b是任意的常数,X,Y相互独立,则 D(aX+bY)=a2DX+b2DY (4) 设E|X|2<+∞, E|Y|2<+∞则(EXY)2≤EX2+EY2; (5) 设Xn≥0,n=1,2,…,则 称不等式(EXY)2≤EX2+EY2为Schwarz不等式。1.3 随机变量的数字特征1.3 随机变量的数字特征例1.3.1 设X是随机变量,若E|X|r<+∞ ,r>0则称EXr 为随机变量的r阶,设随机变量X的r阶矩存在,则 证明 设X的分布函数为F(X),则 即 称不等式 为马尔科夫不等式1.3 随机变量的数字特征1.3 随机变量的数字特征 特别地,在马尔科夫不等式中令r=2,将X换成X-EX 可得重要的Chebyshv不等式. 定理1.3.3 设X是随机变量,则DX=0的充要条件是P(X=C)=1(C是常数)。1.3 随机变量的数字特征1.3 随机变量的数字特征 对于多个随机变量,方差和协方差之间具有下列重要的性质。 设X1,X2,…,Xn是n个随机变量,则 例1.3.2 (Montmort配对问题) n个人将自己的帽子放在一起,充分混合后每人随机地取出一顶帽子,试求出选中自己帽子的人数的均值和方差.1.3 随机变量的数字特征1.3 随机变量的数字特征 解 设X示选中自己帽子的人数,令 第i个人选中自己的帽子 否则 i=1,2,…,n,则 又 从而1.3 随机变量的数字特征1.3 随机变量的数字特征 所以 由 得 而当i≠j时1.3 随机变量的数字特征1.3 随机变量的数字特征 所以 1.3 随机变量的数字特征1.3 随机变量的数字特征定义1.3.7 设X=(X1,X2,…,Xn)是n维随机变量,则称 为n维随机变量X=(X1,X2,…,Xn)的均值向量。称 n维随机变量X=(X1,X2,…,Xn)的协方差矩阵1.3 随机变量的数字特征1.3 随机变量的数字特征定理1.3.4 设B是n维随机变量的协方差矩阵,则B是非负定矩阵. 证明 由于对任意的n个实数t1,t2,…,tn二次型 即二次型 是非负定的,因而矩阵B非负定.第1章 概率论基础第1章 概率论基础1.1 概率空间 1.2 随机变量及分布 1.3 随机变量的数字特征 1.4 随机变量的特征函数 1.5 n维正态随机变量 1.6 条件数学期望1.4 随机变量的特征函数1.4 随机变量的特征函数定义1.4.1 设(Ω, F ,P)是一概率空间,X,Y都是F 的实值变量,则称 为复随机变量。 复随机变量Z是取复值的随机变量,它的数学期望定义为 若X是实值随机变量,则ejtX应是复随机变量。 1.4 随机变量的特征函数1.4 随机变量的特征函数定义1.4.2 设X是(实)随机变量,其分布函数为F(x)则称 为随机变量X的特征函数. 由于ejtX =costX,+jsintX,因此X的特征函数也可以表示为 1.4 随机变量的特征函数1.4 随机变量的特征函数 当X是离散型随机变量时,其分布律为 P(X=xi)=pi,i=1,2,… 则 当X是连续型随机变量时,其概率密度函数为f(x)则 由于 因此随机变量X的特征函数ψ(t)总存在。1.4 随机变量的特征函数1.4 随机变量的特征函数例1.4.1 设X服从单点分布,即P(X=c)=1,其中c为常数,则X的特征函数 例1.4.2 设X~B(n,p)即 k=0,1,2,…,n,00则X的特征函数 例1.4.4 设X服从区间[a,b]上的均匀分布,即X的概率密度函数为 则X的特征函数 1.4 随机变量的特征函数1.4 随机变量的特征函数例1.4.5 设X~N(μ,σ2),即X的概率密度函数为 则X的特征函数 1.4 随机变量的特征函数1.4 随机变量的特征函数 特别的,若X~N(0,1) ,则特征函数 例1.4.6 设X服从参数为λ(λ>0)的指数分布,即X的概率密度函数为 则X的特征函数 1.4 随机变量的特征函数1.4 随机变量的特征函数随机变量的特征函数φ(t)具有下列7条性质 (1) (2) 其中 表示 的共轭; (3) 设随机变量Y=aX+b,其中a,b是常数,则 其中 分别表示随机变量X,Y的特征函数了。 (4) 在(﹣∞,+∞)上一致连续。1.4 随机变量的特征函数1.4 随机变量的特征函数 (5)设随机变量X,Y相互独立,又Z=X+Y,则 此式表明两个相互独立的随机变量之和的特征函数等于各自特征函数的乘积。 (6) 是非负定的,即对于任意的正整数n,任意复数 z1,z2,…,zn和任意实数t1,t2,…,tn,有 1.4 随机变量的特征函数1.4 随机变量的特征函数 (7) 设随机变量X的n阶原点矩存在,则 存在k(k≤n)阶导数,且 例1.4.7 设X~π(λ),求EX,EX2,DX. 解 由于X~π(λ),因而 故1.4 随机变量的特征函数1.4 随机变量的特征函数例1.4.8 设X~N(0,σ2),求EXn 解 因为 所以 从而 1.4 随机变量的特征函数1.4 随机变量的特征函数 在连续概率分布的情况下,特征函数 因此f(t)应当是 的反演,根据积分理论,在 绝对可积的条件下,即 的条件下有反演公式 且反演是唯一的. 1.4 随机变量的特征函数1.4 随机变量的特征函数定理1.4.1 设随机变量X的分布函数为F(x),特征函数为 ,则对F(x)的连续点x1,x2,有 定理1.4.2 随机变量X的分布函数F(x)被它的特征函数 惟一地确定。 由此定理可见,随机变量的概率分布函数与特征函数是一一对应的。1.4 随机变量的特征函数1.4 随机变量的特征函数例1.4.9 设X1,X2,…,Xn相互独立,且Xk~π(λk),k=1,2,…,n试用特征函数证明 证明 由于X1,X2,…,Xn相互独立, Xk~π(λk),k=1,2,…,n 故 从而 所以1.4 随机变量的特征函数1.4 随机变量的特征函数例1.4.10 设X1,X2,…,Xn相互独立,且Xk~N(μk,σk2), k=1,2,…,n, 试用特征函数求随机变量 的概率分布 解 由于X1,X2,…,Xn相互独立,且Xk~N(μk,σk2), k=1,2,…,n 故 从而 所以1.4 随机变量的特征函数1.4 随机变量的特征函数定理1.4.3(Bochner-Khintchine定理) 设φ(t)满足φ(0)=1 ,且在﹣∞0 .1.4 随机变量的特征函数1.4 随机变量的特征函数若X是连续型的非负值随机变量,其概率密度函数为f(x), 则 称 为f(x)的Laplace变换,记为 f(x)称为 的Laplace反变换,它们相互唯一确定 第1章 概率论基础第1章 概率论基础1.1 概率空间 1.2 随机变量及分布 1.3 随机变量的数字特征 1.4 随机变量的特征函数 1.5 n维正态随机变量 1.6 条件数学期望1.5 n维正态随机变量1.5 n维正态随机变量在概率论中,若(X1,X2)~N( ),则二维正态随机变量(X1,X2)的联合概率密度函数为 其中, ρ为随机变量X1,X2的相关系数。1.5 n维正态随机变量1.5 n维正态随机变量下面用向量和矩阵的形式来表示二维正态分布的联合概率密度函数.为此,令 x=(x1,x2), μ=(μ1μ2) , 于是 1.5 n维正态随机变量1.5 n维正态随机变量 所以 =(x-μ)B-1(x-μ)T 于是1.5 n维正态随机变量1.5 n维正态随机变量定义1.5.1 设X=(X1,X2,…,Xn)是n维随机变量,如果其联合概率密度函数为 其中 则称X=(X1,X2,…,Xn)服从μ为均值向量、B为协方差矩阵的n维正态分布,记为X~N(μ, B).1.5 n维正态随机变量1.5 n维正态随机变量定理1.5.1 设X~N(μ,B),则存在n阶正交矩阵A,使得 Y=(Y1,Y2,…,Yn)=(X-μ)AT 是n维独立正态随机变量,即Y1,Y2,…,Yn相互,且Yk~N(0,dk),其中dk>0是B的特征值,k=1,2,…,n。 定理1.5.2 设X~N(μ,B) ,则X的特征函数 1.5 n维正态随机变量1.5 n维正态随机变量定理1.5.3 设X=(X1,X2,…,Xn)~N(μ,B) (1) 若l1,l2,….ln是常数,则 服从一维正态分布 其中,μk=EXk, k=1,2,…,n. (2) 若m0,且若对于任意 实数x ,极限 存在,则称此极限为(X,Y)关于X在条件Y=y下的条件分布函数,记为P(X≤x|Y=y)或是FX|Y(x|y)1.6 条件数学期望1.6 条件数学期望设(X,Y)的联合分布函数为F(x,y),联合概率密度函数为 f(x,y),若在点(x,y)处 f(x,y)连续,边缘概率密度函数fY(y)连续,且fY(y)>0,则有 1.6 条件数学期望1.6 条件数学期望 即 所以(X,Y)关于X在条件Y=y下的条件概率密度函数为 类似地, 条件分布的概念完全可推广到n维随机变量的情形1.6 条件数学期望1.6 条件数学期望定义1.6.3 设(X,Y)是二维随机变量, FX|Y(x|y) , FY|X(y|x)分别是X和Y的条件分布函数,则称 为X在条件Y=y 下的条件数学期望.称 为Y在条件X=x 下的条件数学期望. 由于E(X|y)是随机变量Y 可能取值y的函数,因此E(X|Y)是随机变量Y的函数,称为X在条件Y下的条件数学期望; 类似地,称随机变量X的函数E(Y|X) 为Y在条X下的条件数学期望.1.6 条件数学期望1.6 条件数学期望若X,Y是离散型随机变量,其可能取值分别是x1,x2,… 和 y1,y2,…,则 若X,Y是连续型随机变量,则 1.6 条件数学期望1.6 条件数学期望定义1.6.4 设X=(X1,X2,…,Xn)是n维随机变量, 为Xi的条件分布函数,则称 为Xi在条件X1=x1,…,Xi-1=xi-1,Xi+1=xi+1,…,Xn=xn下的条件数学期望. 称E(Xi|X1,…,Xi-1,Xi+1,…,Xn)为Xi在条件X1,…,Xi-1,Xi+1,…,Xn下的条件数学期望。1.6 条件数学期望1.6 条件数学期望定理1.6.1 E(E(Xi|X1,…,Xi-1,Xi+1,…,Xn))=EXi 定理1.6.2 设X1,X2,…,Xn相互独立,则 E(Xi|X1,…,Xi-1,Xi+1,…,Xn)=EXi 定理1.6.3 设X=(X1,X2,…,Xn)是n维随机变量, g(x1,…,xi-1,xi+1,…,xn)是连续函数,则 E(Xig(X1,…,Xi-1,Xi+1,…,Xn)| X1,…,Xi-1,Xi+1,…,Xn) = g(X1,…,Xi-1,Xi+1,…,Xn) E(Xi|X1,…,Xi-1,Xi+1,…,Xn)1.6 条件数学期望1.6 条件数学期望定理1.6.4 设X=(X1,X2,…,Xn)是n维随机变量,k
/
本文档为【2011秋-随机过程(第一章)】,请使用软件OFFICE或WPS软件打开。作品中的文字与图均可以修改和编辑, 图片更改请在作品中右键图片并更换,文字修改请直接点击文字进行修改,也可以新增和删除文档中的内容。
[版权声明] 本站所有资料为用户分享产生,若发现您的权利被侵害,请联系客服邮件isharekefu@iask.cn,我们尽快处理。 本作品所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用。 网站提供的党政主题相关内容(国旗、国徽、党徽..)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。

历史搜索

    清空历史搜索