nullLogistic 回归模型Logistic 回归模型赵耐青
复旦大学公共卫生学院数据分析的背景数据分析的背景计量资料单因素统计分析
对于两组计量资料的比较,一般采用t检验或秩和检验。
对于两个变量的相关分析采用Pearson相关分析或Spearman相关分析
考虑多因素的影响,对于应变量(反应变量)为计量资料,一般可以考虑应用多重线性回归模型进行多因素分析。数据分析的背景数据分析的背景单因素的分类资料统计分析,一般采用Pearson 2进行统计检验,用Odds Ratio及其95%可信区间评价关联程度。
考虑多因素的影响,对于反应变量为分类变量时,用线性回归模型P=a+bx就不合适了,应选用Logistic回归模型进行统计分析。Logistic回归模型Logistic回归模型按研究
分类
非配对设计:非条件Logistic回归模型
配对的病例对照:条件Logistic回归模型
按反应变量分类
二分类Logistic回归模型(常用)
多分类无序Logistic回归模型
多分类有序Logistic回归模型基础知识基础知识通过下例引入和复习相关概念
例如:研究患某疾病与饮酒的关联性
患病率 P1=a/m1 P2=b/m2基础知识基础知识Odds(优势)
P越大,则Odds越大;P越小,则Odds越小
并且 0
比较OR =1? OR>1 ? OR<1?(二分类)Logistic回归模型(二分类)Logistic回归模型因为0方法。
实例1:患病与未患病的概率实例1:患病与未患病的概率饮酒(x=1),患病概率和未患病概率分别
为
不饮酒(x=0),患病概率和未患病概率分别为
实例1:最大似然估计实例1:最大似然估计本例的似然函数
选择0和1使似然函数L达到最大,即最大似然估计。实例1:用Logistic模型进行统计分析实例1:用Logistic模型进行统计分析以上述实例资料用Stata统计软件对回归系数进行最大似然估计,得到回归系数估计为
即:
Logistic模型的单个回归系数检验Logistic模型的单个回归系数检验关键是如果=0,意味自变量X与Y无关联性。由于的估计存在抽样误差,即使=0,其估计值b一般不为0,故需检验=0?
H0: =0 H1: 0
=0.05
检验统计量
可以
: H0:=0 为真时,z近似服从标准正态分布,即:|z|>1.96,P<0.05,拒绝H0
实例1:用Logistic模型进行统计分析实例1:用Logistic模型进行统计分析实例1的回归系数估计为
se(b)=0.1780719, z=b/se=2.31 ,P=0.021<0.05
拒绝H0,差异有统计学意义,可认为0。
饮酒与患AMI的关联性为
OR的95%可信区间为(1.06,2.14)
应用Logistic模型校正混杂作用应用Logistic模型校正混杂作用实例2:上例没有考虑吸烟情况,故将吸烟作为分层加入,资料如下:
实例2:应用Logistic模型
校正混杂作用实例2:应用Logistic模型
校正混杂作用从分层的资料表述可知:由于吸烟的混杂作用以致饮酒与AMI患病伴随有关联。
用x1=1和0分别表示饮酒和不饮酒,用x2=1和0分别表示吸烟和不吸烟,Logistic模型表示如下Logistic模型的似然比检验Logistic模型的似然比检验在多个自变量回归模型中,回归系数检验分为单个回归系数检验和多个回归系数检验。
单个回归系数检验表示其它变量均在模型中的情况下,检验某个回归系数i=0,一般用Wald检验(如实例1)。
多个回归系数检验要用似然比方法(likelihood ratio test)Logistic模型的似然比检验Logistic模型的似然比检验多个回归系数的检验(以实例2为例)
H0:1=2=0 H1:1,2不全为0
=0.05
H0为真时,模型为
用最大似然法进行估计,其对数最大似然函数值(似然函数的最大值取对数)记为ln(L0)Logistic模型的似然比检验Logistic模型的似然比检验H1为真时,实例2的模型为
用最大似然法进行估计,其对数最大似然函数值记为ln(L1)
记似然比检验统计量为2ln(L)=2(ln(L1)-ln(L0))Logistic模型的似然比检验Logistic模型的似然比检验可以证明:H0为真时, 2ln(L)近似服从2分布,自由度为需检验的自变量个数,如在实例2中,自由度为2。
如果似然比检验统计量2ln(L)>
则拒绝H0。
如果对模型中所有的自变量进行检验,则称为模型检验。如实例2,对两个自变量进行检验,故这是模型检验。
实例2应用Logistic模型
校正混杂作用实例2应用Logistic模型
校正混杂作用应用Stata软件进行最大似然估计,得到模型拟合的主要结果如下
似然函数比为2ln(L)=76.32,df=2,P<0.001,因此拒绝H0 :1=2=0 ,可以认为1和2不全为0。
实例2应用Logistic模型
校正混杂作用实例2应用Logistic模型
校正混杂作用应用Stata软件进行最大似然估计,得到回归系数估计的主要结果如下
饮酒:
多自变量Logistic模型的OR解释多自变量Logistic模型的OR解释在本例中,对于同为吸烟或不吸烟的对象而言(x2相对固定不变),
饮酒(x1=1)的对数Odds为
不饮酒(x1=0)的对数Odds为
多自变量Logistic模型的OR解释多自变量Logistic模型的OR解释则饮酒的对数Odds Ratio为
即:饮酒的
意义:对于同为吸烟的对象或者同为不吸烟的对象,其饮酒的
故称校正吸烟后OR,而前者未考虑吸烟的单因素OR称为crude OR实例2应用Logistic模型
校正混杂作用实例2应用Logistic模型
校正混杂作用饮酒:
P=1
校正了吸烟因素的情况下,没有足够的证据推断饮酒与AMI患病有关联性。
吸烟:
P<0.001,校正了饮酒的情况下,可以认为吸烟与患AMI的关联性有统计学意义,并且可以认为吸烟者患AMI的风险更大。Logistic模型中的交互作用Logistic模型中的交互作用实例3:采用病例对照设计研究吸烟和家属史与患肺癌的关联性。
用x1=1,0分别表示吸烟和不吸烟;x2=1,0分别表示有无家属史;用y=1,0分别表示患肺癌和未患肺癌。
实例3:Logistic模型的交互作用实例3:Logistic模型的交互作用一般而言,吸烟和家属史均是肺癌的重要相关因素,很有可能这两个因素对患肺癌有交互作用,因此采用下列含有交互作用项的Logistic模型。
其中x1和x2的乘积项x1x2称为交互作用项
应用Logistic模型分析实例3应用Logistic模型分析实例3用Stata软件对实例3的资料拟合上述模型,得到下列结果:
3=0.955825,P=0.04,差别有统计学意义,可以认为吸烟和家属史对患肺癌有交互作用。实例3:Logistic模型的交互作用实例3:Logistic模型的交互作用由于本例模型为
对于无家属史,x2=0代入模型,得到
由回归系数与OR的关系,得到吸烟的:
P<0.001实例3:Logistic模型的交互作用实例3:Logistic模型的交互作用由于本例模型为
对于有家属史,x2=1代入模型,得到
有家属史的吸烟OR为
实例3:Logistic模型的交互作用实例3:Logistic模型的交互作用H0:1+3=0 H1:1+30
=0.05 (应用Stata软件可进行下列计算)
当H0为真时,检验统计量2服从自由度为1的2分布,由于本例检验统计量2=40.58> =3.84,故拒绝H0,可以认为1+30 ,差别有统计学意义,可以认为吸烟者患肺癌的风险更大。实例3:Logistic模型的交互作用实例3:Logistic模型的交互作用同理,为了评价家属史与肺癌的关联性,
根据下列Logistic模型
对于不吸烟x1=0,则上述Logistic模型为
家属史的
P=0.认为026<0.05,差别有统计学意义,可以认为有家属史的患者患肺癌的风险更大。
实例3:Logistic模型的交互作用实例3:Logistic模型的交互作用同理,为了评价家属史与肺癌的关联性,
根据下列Logistic模型
对于吸烟x1=1,则上述Logistic模型为
同理可用Stata软件得到相应P=0.0077
Logistic模型中的交互作用Logistic模型中的交互作用实例3小结:
吸烟与肺癌患病有关联性,并且对于有家属史的情况下,吸烟与肺癌患病的关联性被进一步加强,且差异有统计学意义。
家属史与患肺癌有关联性,并且吸烟会导致家属史与肺癌之间的关联性进一步加强,且差异有统计学意义。
病例对照研究与Logistic模型病例对照研究与Logistic模型在病例对照研究中,由于分组采样是按病例和对照分别采样的,病例组的人数和对照组的人数均是研究者自己决定的,病例数人与对照人数之比不是人群的比,故不能估计患病率,但可以估计OR。
对于病例对照研究的资料,可以用Logistic模型评估各个因素对应变量的OR,但不能估计和预测相应的患病概率。Logistic模型中的交互作用Logistic模型中的交互作用例4 评价两个药治疗某疾病的疗效,资料如下:
定义y=1,0分别为有效和无效,x1=1,0分别为A药和B药,x2=1,0分别为病情重和轻。Logistic模型中的交互作用Logistic模型中的交互作用由于研究设计中考虑了病情重和病情轻的情况,所以应考虑病情轻重和不同药物治疗对疗效的交互作用。
用Stata统计软件进行回归模型的拟合,得到下列结果(见下一张幻灯)。
Logistic模型中的交互作用Logistic模型中的交互作用
对于病情轻x2=0代入模型,得到
Logistic模型中的交互作用Logistic模型中的交互作用药物因素变量x1的回归系数为
,P= 0.652 >0.05,两个药的疗效差异无统计学意义。
模型
病情重x2=1代入模型,得到
Logistic模型中的交互作用Logistic模型中的交互作用即:病情重时的药物变量x1的回归系数为
对于在病情重的情况下,两个药的疗效是否有差异需检验1+3=0,用Stata软件计算得:
检验统计量2=42.16, df=1,P<0.001,说明A药组(x1=1)的疗效大于B药组(x1=0),差异有统计学意义。实例4小结实例4小结在病情轻的情况下,两个药的疗效差异无统计学意义。
在病情重的情况下,可以认为A药的疗效优于B药。
即:不能简单地称A药优于B药或两个药的疗效差异无统计学意义。
请注意:在有交互作用的模型中,其主效应(本例x1)解释应谨慎。交互作用的小结交互作用的小结交互作用的意义就是不同层(某因素的不同水平)另一个研究因素与应变量的之间的关联程度是不同的。
在回归分析和方差分析中,经统计检验得到交互作用项有统计学意义只是统计分析的中间结果,不要简单归结为协同作用或拮抗作用,一般要做进一步分析。交互作用的小结交互作用的小结在有交互作用的Logistic模型中,对交互作用项要根据研究目的进行解释,一般应进行分层作简单效应检验,特别很可能某个层有统计学意义而另一个层没有统计学意义。主效应的解释要特别注意,要结合回归模型和变量定义进行谨慎地解释。
应用交互作用模型可以比较多个OR。
多分类无序自变量的处理多分类无序自变量的处理例5:用横断面调查设计,分析职业与患糖尿病的关联性。
职业:用x1=1,2,3分别表示农民,工人和干部(含知识分子)。
用x2表示年龄。
由于x1是分类无序变量,必须用亚元变量表示。多分类无序自变量的处理多分类无序自变量的处理职业变量x1直接引入Logistic模型是不合适的,因为模型中引入x1后,模型为
若1>0,导致x1越大,患病概率相对越大;若1<0,则导致x1越大,患病概率相对越小。而x1属于无序多分类变量, x1数值大小是没有背景意义的,仅是指示作用,应引入亚元变量处理。多分类无序自变量的处理多分类无序自变量的处理亚元变量x12和x13的定义如下:
相应的Logistic模型为
多分类无序自变量的处理多分类无序自变量的处理借助Stata软件用最大似然法估计回归系数得到下列结果:
x12的回归系数的P=0.401>0.05,即:对于职业为工人与农民而言,其与患病之间的关联性无统计学意义。
多分类无序自变量的处理多分类无序自变量的处理x13的回归系数P=0.003<0.05,说明干部与农民的职业与患糖尿病有关联,其
干部与工人比较,用Stata软件检验12=13,P=0.023<0.05,差异有统计学意义。
X2的回归系数P<0.001,说明年龄与患病也有关联,其OR=1.04。引用亚元变量应注意的问题引用亚元变量应注意的问题在Logistic模型中,二分类变量是不区分有序和无序的,因为回归系数的正负号能处理两分类变量所对应的概率大小问题。
在Logistic模型中,用亚元处理多分类自变量时,对同一个因素的一组亚元而言,必须同时引入模型或同时不引入模型,不能若干个亚元在模型中,其它亚元不在模型中,这样会导致模型的参数意义发生改变以致错误解释参数意义。多分类有序自变量的处理多分类有序自变量的处理例6:用横断面调查设计,分析肥胖与患糖尿病的关联性。
职业:用x1=0,1,2分别表示体重正常,超重和肥胖。
用x2表示年龄。
x1是有序的分类变量(等级变量)
Y=1表示患糖尿病,Y=0表示未患糖尿病。多分类有序自变量的处理多分类有序自变量的处理有序分类变量可以直接引入Logistic模型,也可以按无序分类变量方式采用亚元变量引入模型,一般视资料而决定。
有序分类变量直接引入模型:
体重正常x1=0,
体重超重x1=1,
体重超重与正常的对数OR为多分类有序自变量的处理多分类有序自变量的处理由
体重正常x1=0
体重超重x1=1,
体重超重与正常的对数OR为
作对数反变换,得到体重超重与正常的多分类有序自变量的处理多分类有序自变量的处理由
体重超重x1=1,
体重肥胖x1=2,
体重肥胖与超重的对数OR为
作对数反变换,得到体重肥胖与超重的
多分类有序自变量的处理多分类有序自变量的处理由此可见,如果直接将有序多分类变量引入模型,就是假定相邻两个等级的总体OR相同,并且不难验证:体重肥胖与体重正常的 。
综合上述,若满足相邻两个等级的总体OR相同的条件下可以直接将有序多分类变量引入模型,对于不满足这个条件,则应采用亚元变量引入模型。
多分类有序自变量的处理多分类有序自变量的处理对于多分类有序自变量,可以用似然比检验的方法检验相邻两个等级的总体OR是否相同。
在模型1中引入亚元变量,其定义如下:
多分类有序自变量的处理多分类有序自变量的处理模型1
用最大似然法得到的似然函数值为L1
模型2:
用最大似然法得到的似然函数值为L2
显然两个模型等价意味 1=11且21=12
似然比检验统计量为2ln(L)=2(ln(L1)-ln(L2))多分类有序自变量的处理多分类有序自变量的处理H0:模型1等价于模型2
H1:模型1不等价模型2
=0.05
H0为真时, 2ln(L)近似服从自由度为1(自变量的分类数-2)的2分布,即: 检验统计量 ,则拒绝H0,选用引入亚元的模型1。逐步回归分析逐步回归分析在多因素统计分析中,多个自变量之间存在相关性,往往相互影响,研究者希望寻找主要影响应变量Y的因素。
理论上,只要把各种因素组合都试一遍,寻找变量个数最多,每个变量均有统计学意义,并且模型拟合程度最好的模型,这种模型称为最佳预测模型,这种方法称为寻找最优子集,当变量较多时很难实现。逐步回归逐步回归为了比较方便地找到最佳预测回归模型,一般采用逐步回归的分析策略建立拟最佳预测回归模型。
逐步回归采用逐个增加最佳变量的方式或逐个减少最差的变量方式找到最佳或拟最佳回归模型。
逐步回归逐步回归逐步回归有4种方式:
前进法:
最开始时,模型中无任何自变量,然后逐个引入变量进入模型,每次在未进入模型的所有变量中挑选一个变量,其P是最小且P值<,每引入一个变量,重新拟合一次模型,逐步引入变量直至没有满足上述条件的变量可以引入模型为止。逐步回归逐步回归后退法:最开始时,把所有的变量引入模型,然后逐次把P值最大并且P<的变量剔除出模型,每次只剔除一个变量,每次剔除一个变量后重新拟合模型,按照上述剔除标准继续剔除变量,直至模型中的所有变量的P< 为止。逐步回归逐步回归前进逐步回归法
最开始时,模型中无任何自变量,然后逐个引入变量进入模型,每次在未进入模型的所有变量中挑选一个变量,其P是最小且P值<,每引入一个变量,考察模型中是否有P值> 的变量,若有将其剔出模型,然后重新拟合一次模型,逐步引入变量直至没有满足上述条件的变量可以引入模型为止。逐步回归逐步回归后退逐步回归法
最开始时,把所有的变量引入模型,然后逐次把P值最大并且P<的变量剔除出模型,每次只剔除一个变量,每次剔除一个变量后考察未在模型中的变量中是否存在P< 的变量,若有重新引入模型,然后重新拟合模型,按照上述剔除标准继续剔除变量,直至模型中的所有变量的P< 为止。实例6:逐步回归实例6:逐步回归例6:采用横断面调查。研究糖尿病与血压、血脂等因素的关系。
收集变量如下:
实例6:逐步回归实例6:逐步回归X1=1,0分别表示男和女
X2表示年龄,X3表示BMI
X4=1,0分别表示有家属史和无家属史
X5,X6,X7分别表示总胆固醇,甘油三酯和高密度脂蛋白
Y=1,0分别表示患糖尿病和未患糖尿病。
先根据逐步回归的思路,人工进行逐步回归,然后用软件进行逐步回归验证。实例6:逐步回归实例6:逐步回归X1的P值最大并且P>0.05 ,故剔除X1实例6:逐步回归实例6:逐步回归X6的P值最大并且P>0.05 ,故剔除X6实例6:逐步回归实例6:逐步回归X3的P值最大并且P>0.05,故剔除X3实例6:逐步回归实例6:逐步回归X7的P值最大并且>0.05,故剔除X7实例6:逐步回归实例6:逐步回归所有变量的P值均<0.05,故得到最终回归模型实例6:逐步回归实例6:逐步回归用Stata进行(后退法)逐步回归,得到下列结果:
begin with full model
p = 0.9049 >= 0.0510 removing x1
p = 0.7183 >= 0.0510 removing x6
p = 0.3873 >= 0.0510 removing x3
p = 0.4013 >= 0.0510 removing x7实例6:逐步回归实例6:逐步回归得到下列回归系数的估计
由上述结果可知与糖尿病患病的主要影响因素是年龄x2,家属史x4和总胆固醇x5。
逐步回归小结逐步回归小结逐步回归是寻找主要影响因素的一种回归策略,又称建立最佳预测模型。
进入回归模型的变量可以推断这些变量与应变量Y有关联,但是没有进入回归模型的变量不能称这些变量与应变量Y没有关联性。
一般设定变量进入模型的=0.05,剔除变量的>0.05。Logistic回归模型小结Logistic回归模型小结对于应变量为二分类,可以用Logistic回归模型进行统计分析。
在Logistic模型中,自变量可以是二分类的,也可以是连续型变量和有序多分类变量,但无序多分类变量应用一组亚元变量取代。
逐步回归是寻找主要影响因素的回归策略,没有进入模型的变量不能作推断。Logistic回归模型小结Logistic回归模型小结模型中出现有交互作用,不是统计分析的最终结果,只是中间结果,一般要根据研究目的进行简单效应分析。
条件Logistic模型只适用于配对病例对照研究,其回归系数解释与非条件的Logistic模型相同。Logistic回归模型小结Logistic回归模型小结病例对照研究的资料可以用Logistic回归模型分析暴露因素与应变量之间的关联性,但不可以直接应用Logistic模型进行预测或估计患病率。
Logistic回归模型在拟合的过程中经常会提到拟合优度(goodness of fiting)的问题,拟合优度没有统计学意义,只说明当前在模型中的变量情况下,该模型与最优模型无统计学差异,但不能说明模型中再增加变量的情况。