分享

从方差到协方差分析,这里有你需要掌握的重要知识点 | 护理科研

 Nursing小班长 2020-08-08

作为统计学的重要内容之一,方差分析大家或多或少都听说过,而且知道,方差分析是用在三个或三个以上的组间比较(两组比较用t检验)。可是现在突然冒出另一个词——协方差后,好像一下子无从下手了。今天,我们就借讲述协方差分析的机会帮大家一起梳理整个方差分析的所有重点内容。

1. 从方差说起

做方差分析当然不能不懂什么是方差。我们通过下面这个例子来回顾一下方差的概念。

例如,某地区男性身高的总体均数为1.7(m),根据这个信息,我们大概可以推测这个地区每个男性的身高都会在1.7上下波动,你可能是1.75,他可能是1.68。

我们用每一个个体的身高值与总体均数(即1.7)相减,将差值做平方,然后加和再除以总人数,就得到了方差(开方后即得到“标准差”)。

因此,方差或者标准差是综合衡量一组数据个体间差异大小的重要指标,统计学上称为离散趋势。

方差越大(或者说标准差大),就证明,平均而言,数据离均数越远,人们的身高波动很大,比如,有人可能是1.8,而有的人是1.5;

方差小,则意味着,大家身高差异小,可能一个人是1.71,另一个是1.69。这里可以想象一下,参加国庆阅兵队伍的士兵,身高的方差肯定特别小,因为大家身高几乎一样。

2. 方差分析是在做什么

对于方差分析,教科书上是这样解释的:因为方差是反映数据变异程度的指标,方差分析也称变异度分析,其基本思想是根据研究的目的和设计类型,将全部观察值的总变异分解为两个或多个部分,然后将分解的变异与随机误差引起的变异进行比较,来推断某个研究因素是否真正存在影响效应。

好理解吗?我想大部分初学者理解起来都很困难。上面这段话中出现最多次、同时也最不好理解的关键词或许是——变异,所以,我们先来好好看看这个词。

什么叫做变异?

为了与生物学中的基因变异相区别,我认为在这里把“变异”理解为“差异”可能更为合适。

比如,一个班每个学生的生日、身高、体重等几乎都不可能完全相同,一定会有不同。再者,我们在医学研究中经常会遇到,不同病人接受同种药物治疗后所表现出现的疗效有时很不同……这些不同,都是统计学上所称的“差异”。

那么,这些差异或者说变异意味着什么?事物之间展现的差异代表了什么?

答案是信息!

身高体重的差异,给了我们谁更高谁更壮的信息;某项生理指标的差异,例如血压,提供了健康与非健康的信息;两种药物或治疗方法的差异,获得了孰优孰劣的信息……

因此,客观的讲,做统计学研究,就是希望在这个现实社会中透过大片的数据获取我们想要的信息。

因此,方差,作为衡量数据离散程度(也称变异程度)的最常用的指标,其大小就决定了数据所携带信息量的大小,而方差分析就是在告诉我们,这些信息可不可信!

比如我们想比较三种治疗糖尿病的药物(分别称为A、B、C)的效果是否一样,怎么办呢?

我们知道可以做临床实验,统计三种药物的疗效。

如果发现A、B、C三种药物效果不同,我们就会想,这个差异到底可不可靠?如果重复再做一次试验,是否还会出现这样的差异?

要回答这些问题,我们就需要分析是什么导致了这三种药物效果的不同,也就是要区分:这个差异哪些是由于药物的作用,哪些纯粹是因为运气。而这个区分的过程就是方差分析的主要内容。

3. 方差分析的全过程:以one-way为例

下面,我们通过一个具体的案例看看单因素(one-way)方差分析的全过程。

为了解大骨节病与粮食中微量元素硒含量之间的关系,某研究团队调查了A(渭源县)、B(青州市)两个大骨节病区和C(泰山区)、D(长清区)两个非大骨节病区

每个病区随机抽取20户农户并采集面粉,检测面粉中硒元素含量(μg/kg),试分析这4个地区面粉中硒含量是否存在差异。具体的数据情况如下表1。

表1 四地区面粉硒元素含量样本数据表

我们将上述数据绘制成图形(如下图,每个空心小圆圈代表一个样本值),可以很直观地看到,这80个样本值(20*4)各不相同,即它们存在差异。忽略其他潜在的混杂因素,这种差异的原因可能是由于它们来自不同的地区,但因为四个小组内部的数值也都一一不同,所以,差异也可能仅仅是因为随机误差,通俗地理解就是人们说的运气导致的。

但是仔细地观察发现两个病区的数据好像明显要低一些,这便提示地区的不同确实有可能造成了目前的差异。

为了验证我们的猜测,就需要采用方差分析来检验:病区与非病区面粉硒含量的差异是否具有统计学意义。

这里需要再明确一点的是,我们的目标是比较这四个地区面粉中硒含量是否有差异,在实际操作中,我们比较的是四个地区硒含量的总体平均数,因此,只要总体平均数有差异,我们就说四地区硒含量有差异。

要进行方差分析,我们首先要假设,这四组数据都没有差异,注意是都没有!

在这个假设下,我们可以把这四组数据看做是一个大组,即将上述80个数据视为一个整体。对于这个整体,我们可以计算一个平均数和标准差,即表格中72.22和20.00。

可是实际情况下,这80个数据是分属于四个小组的,因此我们也可以分别计算这四个小组的平均数,即57.11、55.58、85.62、90.55。

如果假设成立(即四组数据都没有差异),那么这四个小组的平均数应该是围绕着整体平均数(即72.22)上下波动的,互相差异应该不是很大。但现在我们实际获得的数据却显示,小组中最低的均数为57.11、最大的为90.55,直观上看都与72.22的距离不小,所以我们就会怀疑不能把它们看做一个整体(更严谨的表达是,它们不是来自同一个总体),从而拒绝它们相同的假设。

顺着这个思路,我们获得下面这张表格(表2):

表2 方差分析一般结果表

上述表格中涉及的具体的计算过程大家不需要细看,只需大概了解所谓的“离均差平方和(SS)”和“均方(MS)”的计算方法,然后对照前面我们谈到的方差的概念和计算方法,你是否会发现,不明所以的“均方(MS)”其实可以看做是一种特殊类型的“方差”!

对照下图方差的计算公式:左边是离均差平方和,右边是自由度。

我们首先看衡量“组内变异”的均方(MS组内),在各个小组内部因为没有地区差异,所以MS组内的大小大小仅反映了随机误差(即运气)的情况。而当假设四组总体均数相同时,组间均方(MS组间)的大小也仅仅反映随机误差的大小。

如何理解这里的谈到的“随机误差”呢?

对于来自同一个总体的两个或多个样本的差异我们可以简单理解为随机误差,也就是说,虽然表面上它们不同,但这种不同并没有意义,也不会反映额外的信息,仅仅是因为运气导致的。好比你和别人掷色子比大小,虽然你们获得的点数不同,但这种不同完全是因为运气,不能说明任何其他的问题,同时也不会出现一个人总赢、另一个总输的局面。

但是如果对方悄悄在色子上做了点手脚,知道怎样掷可以获得大的点数,这个时候,你们点数的差异就不再仅仅因为运气,还有色子的原因。用统计学的语言来说,就是你们的差异不仅包含了随机误差,还包含了其他因素。所以,下次如果感觉自己总是在输,就要看看是不是色子出现了问题。

回到本例,既然MS组间和MS组内这两者都仅反映随机误差的大小,那么其携带的信息量就应该没有差异(提示:方差的大小决定了数据的信息量),由此,在数值上MS组间与MS组内差异不大,所以使用MS组间除以MS组内时,所获得F值原则上应该在1附近。

如果现在我们获得的数据计算出来的F值比1大很多(对应的P值会很小),则意味着MS组间远大于MS组内,从而表示,MS组间携带了多余的信息,因此,可以证明MS组间的差异不仅仅包含随机误差,还包含其他因素(比如地区不同),结合本例,即意味着四地区间面粉硒含量不都相同!

将上述数据用SPSS运算后获得结果如下表3。很显然,F值超过46,远大于1(注意,在正式情况下F值并非和1比较,这里仅为了方便理解),其对应的P值远小于0.05,由此拒绝零假设,差异有统计学意义,可以认为这四个地区硒含量的总体均数不全相等,也就是说至少有两个地区总体均数不等。

表3 四地区硒含量方差分析结果表

4. 从one-way到two-way

一般的卫生统计学教课书中把two-way(双因素)方差分析称之为“随机区组设计的方差分析”。我们认为,直接称之为双因素方差分析可能更好理解。不过这里称作“随机区组设计”,也是有其他特别的考虑。“随机区组设计”是实验研究的概念,强调的是科学地获取数据的方法,力争减少混杂因素。但从统计方法的角度来看,随机区组设计的方差分析其实就是增加了一个新的分组因素,因此,其基本思想实际与单因素方差分析并无区别。

比如,某团队想研究人们对当前生活满意度的情况,通过问卷调查收集了人们对生活满意度的得分(0~100),现在想探究教育程度与满意度得分的关系(教育程度分为三组:高中及以下、大专及本科、研究生及以上)。很明显,这是一个单因素方差分析的问题,即比较教育程度不同的三组人群,他们的满意度得分的均数是否有差异。

可是除了教育程度以外,其他因素也可能影响人们对生活的满意度,此时,如果我们考虑加入另一个分类变量,比如性别,则当我们再进行方差分析时,就属于两因素(two-way)的情况了。

为了方便表述,这里我们将“生活满意度得分”称之为因变量,用Y表示;将“教育程度”和“性别”称为“自变量”,分别用“X1”和“X2”表示。

如下表,标准的双因素方差分析的结果表(或称随机区组设计方差分析表),相对于上文中的单因素方差分析表,表格中仅多了一行“区组”。

所以这里,我们其实可以直接将“处理组”看成“X1”;将“区组”看成“X2”。按照上文单因素方差分析的逻辑直接推广即可。

比如,在本例中,为了看“教育程度”和“性别”是否会影响人们目前生活的“满意度得分”,则只需分布看F处理(即F_X1)和F区组(即F_X2)所对应的P值大小判断两次即可。

5. 协方差怎么理解

无论是单因素还是双因素方差分析,我们可以发现,它们都有一些共性,比如研究的因变量(如上文的硒含量、满意度得分),都是定量变量;而自变量,即分组变量(如地区、教育程度、性别)都是定性变量。

现在我们将上文“满意度得分的例子”继续延伸:除了我们关注的“教育程度”和“性别”外,还有其他变量会影响人们对生活的满意度得分吗?

当然有,比如收入水平。很显然,一个人的工资多少完全可能直接决定他目前对生活的满意度。因此,倘若我们忽视了调查对象的收入情况,仅研究教育程度和性别的影响,这样就可能造成结果产生偏移,也就是说可能本来没意义的结果变成了有意义,从而误导我们的判断。

因此,在这种情况下,“收入”这个变量就被称为“协变量”,本例中记为“Z”。纳入协变量的方差分析,即称协方差分析。一般而言,进行协方差分析的协变量为“定量变量”,比如本例中的“人均月收入”,它一般不是研究者重点研究的变量(本例中重点研究的是教育程度和性别),但因为它会对分析结果造成干扰,因此在分析过程中必须要将其纳入。

所以,协方差分析仍然是建立在方差分析这个基本框架之上的,因此,其思想与单因素即双因素方差分析区别也不大,并且在进行分析前数据需要满足的条件也都需要。但是因为加入了一个新的变量——协变量,所以也有些额外了条件需要满足。我们今天对这些条件做些概述。

1) 变量的类型:一般而言,进行协方差分析,因变量是定量的连续变量(如本例的“满意度得分”);自变量是分类变量(可以加入多个自变量,如本例中的“教育程度”和“性别”);协变量是连续变量(如本例的“收入”)。

2) 线性关系:原则上需要协变量与因变量存在线性关系。

3) 平行性假设:协变量与因变量的回归直线互相平行。

这个初次看起来很难理解,但实际上就是为了排除所谓的交互作用。

什么是交互作用呢?

比如我们想研究“教育程度”与“满意度得分”的关系,协变量是收入。在不考虑协变量时,发现随着教育程度的升高,人们的满意度得分也逐渐升高,比如教育上升一个等级(从“高中毕业”到“大学本科”,或者从“大学本科”升至“研究生及以上”),满意度得分都会增加5分。

现在加入“收入”这个协变量之后,发现随着教育程度升高,满意度得分也升高,但是不同的学历程度,其升高的幅度不一样。

比如,加入协变量之后,从“高中毕业”升至“大学本科”,满意度得分仍增加5分;但如果从“大学本科”升至“研究生及以上”,满意度得分仅仅增加3分。这个时候,我们就说收入与教育程度产生了交互作用。

产生了交互作用,也就意味着收入对生活满意度的影响会随着教育程度的变化而变化。用线性回归的术语来表示就是:不同的教育程度下,收入与满意度得分的回归直线斜率不同,因此,它们就不会平行(直线平行需要斜率相同)。

所以,想满足平行线假设,就需要协变量与自变量之间不存在交互作用,这个可以通过专门的检验方法来判断。

以上三个条件是在进行协方差分析时需要特别关注的,除此以外,还有一些其他方差分析也需要关注的条件,在进行协方差分析时也需要考虑,比如常说的正态、独立、方差齐等。这些内容,我们会在之后的文章中给大家再详细讲解。在此也顺便指出,协方差分析实际上与多元(或称多重)线性回归分析本质上是一致的,只不过我们在进行回归分析时,并没有严格区分自变量和协变量,而是将它们一股脑地都纳入回归模型,然后筛选出最终有意义的变量。

为了便于大家更深刻地理解协方差分析的整个过程,我们明天会发布教学视频,详细介绍以SPSS软件为例的单因素、双因素以及协方差分析的操作。

感谢关注!

    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多