分享

什么是T检验

 微笑如酒 2018-03-18

继续晒生信人

跟某同学讲了T test之后,整理一下。

很多的检验和我们的直觉是一致的,前阵子在一个群里,有管理学院的人问说想看两个样本是不是来自于同一个分布,我叫他画两个CDF,一看就知道。对方说不要看图,我就让他用Kolmogorov-Smirnov Tests。我自己搜了一下,发现ks.test检验的就是拿两个CDF的距离做为统计量,虽然计算很复杂,但是和intuition那是相当一致啊。

最简单也最常用的,莫过于T检验,用我们的直觉就可以理解了,但是我发现不理解还有用错的人也挺多的。

我们要看一个样本的均值是不是等于0,最naive的办法就是看样本的均值和0差别多大。


这个比较之所以naive,因为没有考虑到数据的分布,从上图的两个populations来看,它们的均值都是0,从绿色的分布中抽到一个均值为3的样本,概率并不小,但是从红色的分布中得到这样一个样本,那就是小概率事件。所以不能单纯比较均值,而是要看均值的分布,从上面的populations上看,和数据的离散程度有关。


我们随机抽取100个sample,得到以下的均值分布:



我们需要对均值的离散程度做penalty,那么就可以考虑这样一个统计量mean(x)/SEM, SEM代表standard error of the mean,那么这个统计量比单纯的均值要科学得多。这个统计量,就是学生氏所定义的t。

如果没有大量的样本,是没办法估计SEM的,但是从上面两个图上看,样本间均值的标准误SEM,和总体数据的标准误是正相关的。而总体的标准误可以用样本的标准误,sd(x),来估计。如果我们考虑最简单的形式呢?定义统计量mean(x)/sd(x)。

那么,请等一下,我们还需要考虑到样本量的影响,如果sample size没有影响,那么我们就不需要采集大样本了。从我们的直觉上看,肯定是样本量越大,对总体参数的估计越准确了。

从图上看,还是和直觉很一致。sample size越大,分布越compact,对总体均值的估计也就越准确。那么就需要使用sample size进行加权,把统计量修改为mean(x)/sd(x) * f(n),其中n为sample size。

我们可以想像,学生氏当年try了几种形式的f(n),发现sqrt(n)效果最好。于是他就定义了统计量: t = mean(x)/(sd(x)/sqrt(n))。
sqrt(n)效果好,因为sd(x)/sqrt(n)正好是对样本间均值标准误SEM的估计。

我们又可以想像,学生氏当年收集了很多个样本,计算了多个t值,发现这些t值的分布是有规律的,有点像正态分布,学生氏把它定义为t分布,利用t分布的probability density function,就可以计算p-value啦。

上图就是从标准正态分布里抽取100个样本,所计算的t值分布。

很多人上课学不懂,我觉得是因为一上来告诉你t怎么算,但是没让你理解SEM,SEM是理解t值计算的关键。

算完t之后,一句话,符合t分布,然后就是查表看p值,或者让计算机算,太抽象,这世界本来没有t分布,是学生氏定义了t统计量,并发现符合某分布,把它定义为t分布,有计算机做simulation,重现这个过程,就不抽象了,也就好理解了。

至于两样本,如果是paired的话,那就是paired之间相减,用差值做单样本t检验。如果不是成对,那就是t=(mean(x1)-mean(x2))/SEDM.

其中SEDM代表standard error of difference of means,这里有一个pool与否的问题,SEDM看上去稍微复杂了一点点,但是basic idea是一样的,非常好理解。


生信人一贯是抄的,我早发现了,他们其实没有自身的特点,都是各种抄来抄去的混搭。错漏是经常的,网上得来终是浅嘛。但这样也抄出了很多粉丝,胆子还肥了。前两天我刚好看到一生信人的推文是个数据库列表,一看英文的,我就知道是抄的,而且列表非常长,一般人不可能整出来,必定是黄页之类的网站才会做出来,而且每个数据库都是一两句简单介绍,必然是黄页网站的入口简介而已。然而抄来的东西,标了原创,可能觉得抄英文的,随便标吧,反正不会有作者回来申诉。

我看到,也没举报他们,就评论了一句,说这显然抄的,好意思标原创。也算是好意提醒他们。他们应该脸红认错才对,结果却是一副我抄怎么滴啦。我继续评论说,以前还抄我几篇,你也好意思这么说话。然后他删回复,重新来一遍,说他们确实在以前存在不规范的地方,多谢我一直的支持,也应该看到他们的成长,原创文也越来越多,他们自己写的都标了原创。

然后就出来下面这个:

外文网站上的博客也还是没标个出处,一点诚意都没有。

我真心不明白他说自己写的这个字到底什么含义,不知道是指创作还是文字录入。在我被恶心之后,跟我说抱歉已经晚了。所以本来抄我的,都有标明出处,我也无所谓,但自己来撞枪口,那就只能让他们也闹心一下。


    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多