似然比检验

HERMAN BENNETT 第 10 讲补充—麻省理工学院 14.30 2006 年 春季 0 (四个)最常用的假设检验：应用复习 我们针对同一个随机样本的应用，来复习一下四个最常用的假设检验框架。对每种检验， 我们需要变换所做的假设和决策规则。 0.1 随机样本 设 1,..., 10X X 为总体服从正态分布的一个随机样本，均值(μ)未知，标准差已知(σ=1)。 下面的格代表了随机样本的实现值： 0.2 似然比检验 (LRT): 用显著性水平为 5%进行似然比检验，原假设是总体均值为 0，备择假设是为总体均值为 1。 0 0H μ =： 1 1H μ =： 决策规则的表达式为： “如果 ，则拒绝 ” 。 1 0f f 〉(x)/ (x) k 0H z 我们需要计算 k 和对于 0,1i = 时， if(x)的值。k的值取决于我们想要构造的检验 的显著性水平， if(x)的值取决于随机样本的实现值。 1 HERMAN BENNETT 第 10 讲补充—麻省理工学院 14.30 2006 春 0.2.1 计算 k 为了计算 k，我们需要先知道原假设中 1 0f f(x)/ (x)的分布。注意大写字母 X 说明统计 量 1 0f f(x)/ (x)是一个由随机样本中的随机变量函数构造的随机变量。 计算 1 0f f(x)/ (x)分布的方法取决于（具体例子）假定的总体分布，往往很难计算。一 旦知道了 1 0f f(x)/ (x)的分布，我们就可以寻找满足显著性水平条件的 k 值： 1 0 (P f f μ α〉(x)/ (x) k =0)= =0.05 DeGroot and Schervish(2002，第 465 页第八章)中提出一种不一定要知道 1 0f f(x)/ (x) 的 分 布 就 能 计 算 k 的 方 法 。 运 用 这 种 方 法 我 们 计 算 出 k=1.22 ， 这 意 味 着 1 0( 1.22P f f μ α〉(x)/ (x) =0)= =0.05。大家课后可详见 DeGroot and Schervish 中的叙述。 （不是考试必读部分） 0.2.2 计算似然比 1 0f f(x)/ (x) 计算 0f (x)： 计算 1f (x)： 2 HERMAN BENNETT 第 10 讲补充—麻省理工学院 14.30 2006 春 0.2.3 检验的结果 1 0f f 〉(x)/ (x)=1.49 k=1.22，所以，在显著性水平为 5%下，拒绝总体均值为 0 的原 假设，接受总体均值为 1 的备择假设。 0.3 单侧检验: 用显著性水平为 6%的单侧检验，检验原假设为总体均值为 0.4，备择假设为总体均值 大于 0.4。 0 1 0.4 0.4 H H μ μ = 〉 ： ： 决策规则的表达式为：“ c〉 0“如果x ,则拒绝 H ”。 z 我们需要计算c值，它取决于我们想要构造的假设检验的显著性水平。 0.3.1 计算 c 我们要找到满足犯第一类错误的概率为 6%这一条件的 的值， c 0( 0.4 ) 0.06P X c μ α〉 = = = 要计算 ，我们首先需要知道随机变量c X 的分布。随机样本是正态分布，因此，可得 。那么在原假设中， ，所以， 因为 ，我们知道 3 HERMAN BENNETT 第 10 讲补充—麻省理工学院 14.30 2006 春 因为 ，z0.94=1.555，可得： 因此， 0.3.2 检验的结果 ，所以，在显著性水平为 6%下，不能拒绝总体均值为 0.4 的 原假设 ，总体均值大于 0.4 的备择假设。 0H 0.4 双侧检验: 在显著性水平为 1%下，采用对称的双侧检验，检验总体均值等于 0.1 的原假设和总体 均值不等于 0.1 的备择假设。 0 1 0.1 0.1 H H μ μ = ≠ ： ： 决策规则的表达形式为：“如果 c2 ，拒绝H0”。 z 需要计算c1和c2，它们的值取决于检验的显著性水平。 0.4.1 计算 c1 和 c2 我们需要找到满足犯第一类错误概率为 1%这一条件的c1和c2的值。 因为我们构造的是一个对称的检验，需要满足如下两个条件： 4 HERMAN BENNETT 第 10 讲补充—麻省理工学院 14.30 2006 春 P（ c2|μ=0.1）=0.005 为了计算c1和c2，我们需要知道随机变量 X 的分布。随机样本是正态的，则可知 ，在原假设中， ，因此： 且 因为 ，可得： 以及 因为 和 ，在这里， 和 ，可得： ( ) 0.005P Z 〈 =0.005 z ( ) 0.005P Z 〉 =0.995 z 2.575= −0.005z 2.575= −0.995z 和 解得： 和 z 注意，计算c2可以遵循上述单侧检验中计算c的步骤。（ 0.005α = ） 0.4.2 检验结果 10.54 0.714 0.54 0.914x c x c= 〉 = − = 〈 =和 2 ，则显著性水平为 1%时不能够拒绝总体 均值等于 0.1 的原假设而去接受总体均值不为 0.1 的备择假设。 5 HERMAN BENNETT 第 10 讲补充—麻省理工学院 14.30 2006 春 0.5 广义似然比检验（GLRT)： 我们并不是求解这个检验，而是给出基本的指导： 0 1 : 0 : 0 H H μ μ = ≠ 决策规则表达式为： 。 0H〉“如果T d，则拒绝 ” T 为如下统计量： z 我们需要计算 T 和 d.。对于 T ，就要找到似然函数的最大值（给定样本数据）， 通过在原假设和备择假设的集（此时 ）中的所有可能的值估计 μ。这个似然函数的 最大值为从分母中得到的那个数值。 z 我们需要遵循相同的步骤来计算分子中的数值，但是，只需要在原假设空间内估计 μ所有可能值的似然数。因为在这种情况下，原假设空间是一个简单原假设，所以必须在μ =0 处估计似然数。 z 我们根据条件， 0)P T d μ α〈 = =（ ，计算 。与似然比检验一样，计算 T 的分布 方法因情况不同而异，很多时候很难计算。当计算广义似然比检验时，我们采用另一种方法。 这种方法只应用于假设 n→∞的情况下。在一个大样本中，我们知道 d 2 lnT− 的极限分布（这 一结果本课程不予证明）如下： 其中， 0r Ω Ω等于 中的自由参数#减掉 中的自由参数# r1 z 如果 22 ln T αχ− 〉 （r）, ， 。 0H则拒绝 1技术结果表明该分布是一个 2( )rχ 分布，自由度 0dim dimr = Ω − Ω 。 6 0 (四个)最常用的假设检验：应用复习 0.1随机样本 0.2似然比检验 (LRT): 0.2.1计算 k 0.2.2 计算似然比 0.2.3检验的结果 0.3单侧检验: 0.3.1计算 c 0.3.2 检验的结果 0.4 双侧检验: 0.4.1 计算 c1 和 c2 0.4.2 检验结果 0.5广义似然比检验（GLRT)：