多元线性回归模型的各种检验方法Word格式文档下载.docx

多元线性回归模型的各种检验方法Word格式文档下载.docx

《多元线性回归模型的各种检验方法Word格式文档下载.docx》由会员分享，可在线阅读，更多相关《多元线性回归模型的各种检验方法Word格式文档下载.docx（11页珍藏版）》请在冰豆网上搜索。

j

0.1即（3）在给定的显著水平下（不能大于

以下的前提下做90%，也即我们不能在置信度小于10%

t；

）t（分布的临界值双结论），查出尾1k?

n?

?

2/

t?

t的情况，检验结论为拒绝4）如果出现（?

HH。

；

反之，无法拒绝00

jj?

t必须服从已检验方法的关键是统计量t?

（Se）?

jt分布函数。

什么情况或条件下才会这样呢？

这需知的

要我们建立的模型满足如下的条件（或假定）

n次观测的随机）随机抽样性。

我们有一个含（1

LL,X,X,nX,:

1,2,,Yi?

样。

这保证了误i1ii2ik

u差

2．

自身的随机性，即无自相关性，

Cov（u?

E（u））（u?

E（u））?

0。

jiji

（2）条件期望值为0。

给定解释变量的任何值，误

差

u的期望值为零。

即有

L,X）?

X,0E（uX

k21

L,,XX,X这也保证了误差独立于解释变量，即21u

E（u）?

0模型中的解释变量是外生性的，也使得。

（3）不存在完全共线性。

在样本因而在总体中，

没有一个解释变量是常数，解释变量之间也不存在严

格的线性关系。

2常数?

X）?

X,X,L,Var（u。

同方差性。

（4）?

k12

u2）0,u~Normal（?

。

满足5）正态性。

误差（

个前提下，才可以推导出：

在以上5

~N[,Var（）]?

jjj

）~NSd/（（0,1）（）?

jjj

（tSe（）~/）?

1?

njjj?

k

3．

t检验方法所要求的条件是极为苛刻的。

由此可见，

对参数的一个线性组合的假设的检验二、

无：

比如需要检验的虚拟假设为?

H?

jj02121?

。

法直接检验。

设立新参数211

H代入原模型将：

原虚拟假设等价于。

0?

02111

后得出新模型：

LLu?

X?

XXY?

（?

）2（k20k1211

t：

2）中再利用检验方法检验虚拟假设在模型（H0

1

我们甚至还可以检验这样一个更一般的假设

LλβCH:

k1k0001

统计量为t

λβλβ?

~t（n?

k?

1）

T12T?

λSeX）λ（X

三、对参数多个线性约束的假设检验：

F检验

4．

需要检验的虚拟假设为H0L0?

,?

0,?

。

k?

2k?

k?

q1?

q

q个排除性约束。

模型该假设对模型

（1）施加了

）在该约束下转变为如下的新模型：

（1

Y?

q1k1?

k20?

2q

）3（

）3）称为不受约束（ur）的模型，而模型（模型（1

）13）也称为模型（称为受约束（r）的模型。

模型（

方法估计模型OLS的嵌套模型，或子模型。

分别用

）后，可以计算出如下的统计量：

21）和（（

RSSRSS?

urrF?

q/）?

1n?

k/（RSSur

关键在于，不需要满足t检验所需要的假定（3），统

F~F。

利用已知的就满足：

F分布函数，计量F1?

q,n

我们就可以拒绝或接受虚拟假设：

H0

检t检验比F了。

所以，一般来讲，?

L0,?

0,?

k2?

kq1q验更先使用，用的更普遍，可信度更高。

利用关系式

5．

2统计量还可以写成：

，F，R1?

）RSS?

TSS（）?

R?

RSSTSS（1urrur2r

R2

ur?

F

2?

k（1?

R）/（n

ur）1检验四、对回归模型整体显著性的检验：

F

L需要检验的虚拟假设为：

相0?

0,,?

H?

k210

q。

嵌套模型变为当于前一个检验问题的特例，

uY?

R。

0?

22统计量变，。

F，0TSS?

RSSRR?

2rurr

为：

2kR/

F2）1?

R）/（n?

k（1

kESS/?

）RSS1?

k?

/（n

检验一般的线性约束五、

需要检验的虚拟假设比如为H0

1,,L,?

。

受约束模型变为：

k21

6．

u?

10

再变形为：

F统计量只可用：

01

/qRSS?

RSSrru?

）?

1RSS/（n?

kru其

中?

）X?

Y）?

（X?

RSSTSS?

）Y（?

（YX）?

（Y。

1i1ii1iXr?

Y1122，

检验两个数据集的回归参数是否相等：

皱（至庄）六、

检验

虚拟假定是总体回归系数的真值相等。

步骤如下：

基于两组样本数据，进行相同设定的回归，）（1

将二

RSS。

和者的RSS分别记为RSS12

将两组样本数据合并，基于合并的样本数据，2）（

RSS记为进行相同设定的回归，将回归的RSST

统计量：

（计算下面的3）F

7．

（RSS?

RSS?

RSS）/（k?

1）2T1F?

2）2k?

RSS）/（n?

R（SS?

2121

，拒绝原假定如果（4）F?

F?

非正态假定下多个线性约束的大样本假设检验：

七、

（拉格郎日乘数）检验LM

u满足正态性假定。

）中的F检验方法需要模型（1

在不满足正态性假定时，在大样本条件下，可以使用

LM统计量。

虚拟假设依然是H0

L?

统计量仅要求对受约束模型LM。

kq?

1k?

q2

的估计。

具体步骤如下：

Y对施加限制后的解释变量进行回归，）将（ⅰ

~u。

即我们要进行了如下的回归估计并保留残差~~~~~uLL?

qk011k22?

q?

~u对所有解释变量进行辅助回归，即进行）将ⅱ（

如下回归估计

8．

~LL?

ukk10212

2R。

平方，记为R-并得到u

2LM?

nR。

）计算统计量（ⅲu

c与分布中适当的临界值比较。

如（ⅳ）将?

LM2q

果，就拒绝虚拟假设；

否则，就不能拒绝虚拟HcLM?

0

H假设。

0

八、对模型函数形式误设问题的一般检验：

RESET

如果一个多元回归模型没有正确地解释被解释变

量与所观察到的解释变量之间的关系，那它就存在函

数形式误设的问题。

误设可以表现为两种形式：

模型

中遗漏了对被解释变量有系统性影响的解释变量；

错

误地设定了一个模型的函数形式。

在侦察一般的函数

形式误设方面，拉姆齐（Ramsey，1969）的回归设定

误差检验（regressionspecilficationerrortest,

RESET）是一种常用的方法。

RESET背后的思想相当简

单。

如果原模型

（1）满足经典假定（3），那么在模型

9．

（1）中添加解释变量的非线性关系应该是不显著的。

尽管这样做通常能侦察出函数形式误设，但如果原模

型中有许多解释变量，它又有使用掉大量自由度的缺

陷。

另外，非线性关系的形式也是多种多样的。

则是在模型

（1）中添加模型

（1）的OLS拟合值的多

项式，以侦察函数形式误设的一般形式。

为了实施RESET，我们必须决定在一个扩大的回归

模型中包括多少个拟合值的函数。

虽然对这个问题没

有正确的答案，但在大多数应用研究中，都表明平方

项和三次项很有用。

令表示从模型

（1）所得到的OLS?

Y

估计值。

考虑扩大的模型

（4）?

23?

X?

Y?

XY?

X?

LLY?

01122kk12这个模型看起来有些奇怪，因为原估计的拟合值的函

数现在却出作为解释变量出现。

实际上，我们对模型

）的参数估计并不感兴趣，我们只是利用这个模型（4

）是否遗漏掉了重要的非线性关系。

记1来检验模型（

的非线性函数。

都只是和住，?

23XYYj这时，。

）对模型（4，我们检验虚拟假设00?

:

H,?

012

10．

模型（4）是无约束模型，模型

（1）是受约束模型。

计算F统计量。

需要查分布表。

拒绝，模型Hk?

3F,n?

20）存在误设，否则，不存在误设。

1（

九、利用非嵌套模型检验函数形式误设

寻求对函数形式误设的其他类型（比如，试图决定某

一解释变量究竟应以水平值形式还是对数形式出现）

作出检验，需要离开经典假设检验的辖域。

有可能要

相对模型

LL?

log（XX）?

）?

log（）log（?

k12120k

（5）

检验模型

（1），或者把两个模型反过来。

然而，它们

是非嵌套的，所以我们不能仅使用标准的F检验。

有

两种不同的方法。

一种方法由MizonandRichard（1986）提出，构造

一个综合模型，将每个模型作为一个特殊情形而包含

其中，然后检验导致每个模型的约束。

对于模型

（1）

和模型（5）而言，综合模型就是

11．

（6）

log（X）?

k?

1k10k?

1k1kk

）的检验。

也1可以先检验，作为对模型（L0,,?

0H:

0k?

1k?

k）的检验。

，作为对模型（可以通过对检验5L0?

H:

01k

另一种方法由DavisonandMacKinnon（1981）提出。

认为，如果模型

（1）是正确的，那么从模型（5）得

到的拟合值在模型

（1）中应该是不显著的。

因此，为

了检验模型

（1）的正确性，首先用OLS估计模型

（5）以得到拟合值，并记为。

在新模型?

Y

（7）?

YL?

LY01122kk1。

检验拒绝或接受假定的中计算t统计量，利用t?

0H:

01）的证据。

类似的，统计量就是拒绝模型（1显著的t

为了检验模型（5）的正确性，首先用OLS估计模型

（1）以得到拟合值，并记为。

（8）?

Y）?

LL?

log（XX）Y?

log（X?

log（）?

01122kk1。

的中计算t统计量，利用t检验拒绝或接受假定?

YH?

01

以上两种检验方法可以用于检验任意两个具有相同的

12．

被解释变量的非嵌套模型。

非嵌套检验存在一些问题。

首先，不一定会出现一个

明显好的模型。

两个模型可能都被拒绝，也可能没有

一个被拒绝。

在后一种情形中，我们可以使用调整的

R-平方进行选择。

如果两个模型都被拒绝，则有更多

的工作要做。

不过，重要的是知道使用这种或那种函

数形式的后果，如果关键性解释变量对被解释变量的

影响没有多大差异，那么使用那个模型实际上并不要

紧。

第二个问题是，比如说使用DavisonandMacKinnon

检验拒绝了模型（5），这并不意味着模型

（1）就是正

确的模型。

模型（5）可能会因为多种误设的函数形式

而被拒绝。

一个更为可能的问题是，在解释变量不同的模型之间

进行比较时，如何实施非嵌套检验。

一个典型的情况

是，一个解释变量是，一个解释变量是。

使用调整）log（YY

的R-平方进行比较，需要小心从事。

13