中级计量经济学三大检验一、最大似然估计(ML)二、似然比检验(LR)三、Wald检验四、拉格朗日乘子检验(LM)前面介绍的F检验 适用于检验模型的线性约束。如果模型是非线性的、或者约束是非线性的、或者扰动项分布是非正态的,在这些情况下,F检验不再适用,通常需要 采用LR、Wald、LM其中之一来检验约束条件是否成立。这三个检验方法是渐进等价的,他们所用统计量的小样本分布是未知的,但都渐进服 从自由度为约束个数的卡方分布。似然比检验(LikelihoodRatioTest,LR)、沃尔德检验(WaldTest, W)、拉格朗日乘数检验(LagrangeMultiplier,LM)是三种基于极大似然法的大样本检验方法。中级计量经 济学一、最大似然估计(ML)(一)极大似然原理假设对于给定样本,其联合概率分布存在, 。将该联合概率密度函数视为未知参数的函数,则称 为似然函数(LikelihoodFunction),即观测到所给样本的可能性.极大似然原理就是寻找未知参数的 估计,使得似然函数达到最大,或者说寻找使得样本出现的概率最大的 。中级计量经济学(三)线性回归模型最大似然估计1、估计结果对数似然函数:对未知参数求导:中级计 量经济学得到,与OLS对比中级计量经济学3、最大似然估计量(MLE)的性质:(1)一致性: 是的一致估计量,即(2)渐进有效性:是渐进有效的且达到所有一致估计量的Cramer-Rao下 界,即是所有一致渐进正态估计量中方差最小的(3)渐进正态性中级计量经济学二、似然比检验(LR)1、似然比 命题:检验思想:如果约束是无效的,有约束的最大似然函数值当然不会超过无约束的最大似然函数值,但如果约束条件“有效”,有约束的最大 值应当“接近”无约束的最大值,这正是似然比检验的基本思路。似然比:无约束模型似然函数值:有约束模型似然函数值: 中级计量经济学显然。如果原假设是真,则趋近于1;如果太 小,则约束无效,拒绝原假设。可以证明,对大样本来说,检验统计量为,拒绝域,似然比检验另一种表达,中级计量 经济学三、Wald检验如果约束条件为真,则不应该显著异于零,其中 是无约束极大似然估计值。当显著异于零时,约束条件无效,拒绝原假设。检验统 计量,Wald只需要估计无约束模型,但需要计算渐进协方差矩阵。中级计量经济学在线性约束条件下,Wald检验 拒绝域,Wald统计量另一种表达形式,中级计量经济学四、拉格朗日乘子检验(LM)基本思想:拉格 朗日乘子检验(LM),又称为Score检验。该检验基于约束模型,无需估计无约束模型。假设约束条件为 ,在约束条件下最大化对数似然函数,另表示拉格朗日乘子向量,此时,拉格朗日函数为,约束条 件下最大化问题就是求解下式根,中级计量经济学如果约束成立,对数似然函数值不会有显著变化。这就意味着在一阶条 件下,第二项应该很小,特别是应该很小。因此,约束条件是否成立检验转化成检验 ,这就是拉格朗日乘子检验的思想。但是直接检验比较困难,有一个等价而简单的方法 。如果约束条件成立,在约束估计值处计算对数似然函数的导数应该近似为零,如果该值显著异于零,则约束条件不成立,拒绝原假设。对数似然 函数的导数就是得分向量,因此,LM检验就是检验约束条件下参数估计值的得分向量值是否显著异于零,因而,LM检验又称为得分检验。 中级计量经济学在最大似然估计过程中,通过解似然方程,可以求出无约束估计量 ;如果计算有约束估计量在此处得分,则一般不为零,但是如果约束有效,则趋 近于零。在原假设成立条件下,中级计量经济学对于线性约束将有关量代入上式得,拒绝域,中级计量经济学LM统计量另一种表达形式,LR、Wald、LM关系(一般情况下成立):中级计量经济学中级计量经济学 |
|