广义矩估计.docx
- 文档编号:734528
- 上传时间:2022-10-12
- 格式:DOCX
- 页数:17
- 大小:397.18KB
广义矩估计.docx
《广义矩估计.docx》由会员分享,可在线阅读,更多相关《广义矩估计.docx(17页珍藏版)》请在冰豆网上搜索。
广义矩估计
第1章广义矩估计
1.1矩估计
1.1.1总体矩与样本矩
设总体X的可能分布族为,其中来自参数空间Θ的是待估计的未知参数。
假定总体分布的m阶矩存在,则总体分布的k阶原点矩和k阶中心矩为
1
2
两种常见的情况是一阶原点矩和二阶中心矩:
3
4
一阶原点矩表示变量的期望值,二阶中心矩表示变量的方差。
对于样本,其k阶原点矩是:
()5
当k=1时,m1表示X的样本均值。
X的k阶中心矩是:
()6
当k=2时,B2表示X的样本方差。
1.1.2矩估计方法
矩方法(momentmethod)是一种古老的估计方法。
其基本思想是:
在随机抽样中,样本统计量将依概率收敛于某个常数。
这个常数又是分布中未知参数的一个函数。
总体分布的k阶矩为的函数。
根据大数定理,样本矩依概率收敛于总体矩。
因此,可以用样本矩作为总体矩的估计,即令:
即:
7
上式确定了包含K个未知参数的K个方程式,求解上式所构成的方程组就可以得到的一组解。
因为mk是随机变量,故解得的也是随机变量。
这种参数估计方法称为矩方法,即是的矩估计量。
定理:
X的分布函数F(X)存在2ν阶矩,则对样本的ν阶原点矩mv,则矩的期望和方差为:
,8
证明:
。
矩方法的一般步骤:
Step1:
总体矩条件(populationmomentcondition):
。
一般情况下,矩条件可以写为:
。
给定观测样本,总体矩无法计算。
但可以计算总体矩条件对应的样本矩条件。
Step2:
样本矩条件(samplemomentcondition):
。
一般情况下,矩条件可以写为:
根据大数定理,样本矩依概率收敛于总体矩,即
Step3:
令样本矩=总体矩,得到矩方程,解方程(组)得到未知参数的矩估计量。
在很多情况下,我们可以根据矩条件构建矩方程,然后求解未知参数。
一般情况下,这些矩条件都是可以直接观察到(或假定)的。
例1.1假定随机变量yt的均值存在但未知,利用矩方法进行估计。
Step1:
总体矩:
令,则
Step2:
样本矩为:
根据大数定理,样本矩依概率收敛于总体矩,即
解上述方程即可得到的矩估计量
1.1.3矩方法的几个特例
很多估计方法(比如OLS、TSLS等)都是矩估计的特殊形式。
1.OLS估计
例2:
在回归方程中,
,
其中,。
假定的条件均值为0,则
由和迭代期望公式可以得出:
其对应的样本矩条件为:
解上述方程可以得到MM估计量:
2.IV估计
考虑如下回归模型:
9
其中,,x1t包括K1个外生变量,但包括K2个内生变量,即
10
11
设x2的工具变量为z2,z2包括K2个工具变量,z2满足
12
13
(10)(13)共同构成了新的矩条件,定义
z为工具变量,其中x1t仍然作为自身的工具变量,而z2t作为x2t的工具变量。
K=K1+K2个总体矩条件为:
14
相应的样本矩为:
15
MM估计量为:
16
1.2广义矩
广义矩(GeneralizedMomentMethod)是由矩方法发展而来,其奠基之作是Hansen(1982)。
1.2.1GMM方法的引入
设模型设定为:
其中,,,zt为工具变量(1L)。
令,则L个矩条件为:
17
即:
对应的样本矩条件为:
18
从上式可以看出,
(1)L (2)L=K,即工具变量的个数等于未知参数的个数时,矩条件方程唯一解,参数恰好识别。 估计量为: 19 如前所述,OLS估计量和IV估计都是这种情况下的特殊形式。 (3)L>K,即工具变量的个数大于未知参数的个数时,采用不同的矩方程可以得到不同的解,因此,矩方程具有多个解。 1.2.2秩条件与阶条件 从(17)式得到的矩条件方程为: 可以看出,要使得β有解,。 如果,则存在唯一解;如果,则无解;,则存在多个解。 要得到的唯一解,矩阵的转置必须存在。 而为阶矩阵,因此,β有唯一解的充分条件是,称之为工具变量的秩条件。 秩条件暗含的另外一个假定是L≥K,即工具变量的个数大于内生解释变量的个数。 称之为工具变量的阶条件。 如果L>K,称为过度识别;如果L=K,则称为恰好识别。 1.2.3GMM估计及渐进特征 当L>K时,秩条件不成立,MM方法存在多个解。 这时,可以采用两种方法。 其一,将多个工具变量组合成为K个工具变量。 这即是2SLS。 在2SLS中的第一阶段,用每一个内生变量对L个工具变量回归,得到K个拟合值;然后,用这K个拟合值作为工具变量进行LS回归。 第二种方法即是GMM估计。 后面将会看到,TSLS方法是GMM方法在同方差假定下的特例。 GMM方法即是解决L>K情况下的一般方法。 GMM方法完全是根据矩条件来估计参数,因此对扰动项的分布形式没有任何假定,这一点使GMM估计成为稳健性分析中的重要应用。 1.GMM估计 广义矩方法即是处理过度识别情况的一般方法。 首先来看一下如何将MM估计推广到GMM估计。 设模型为 y=f(x,β)+u x中包含K个变量,L个工具变量表示为z。 在MM估计中,利用K个工具变量估计K个未知参数,需要构建K个矩方程。 每个矩条件表示为ml(l=1,2,…,K)。 K个矩方程为 等价于解方程: 。 A 当存在L>K个工具变量时,共有L个矩方程,而只有K个未知参数。 因此,根据MM方法,共有个组合,可以得到的矩估计量的个数为。 这时,每个组合得到的MM估计量都不能满足A式,即A式不会恰好为0。 但可以考虑将各种不同的估计结果综合起来,使A式最小化。 比如, 20 即使得L个矩条件的平方和最小。 因为不同矩的方差不同,因此更科学的方法是使用加权的平方和, 21 Wt可以是任意的正定矩阵(可以依赖于数据,但不包含未知参数)。 事实上(20)式是(21)式的一个特例,即Wt=I。 GMM估计量是求下式的最优解: 22 括号中的Wt表示GMM估计量取决于Wt,不同的权数矩阵会得到不同的估计量。 根据一阶条件 便可以得到GMM估计量。 令为(L×K)矩阵,第(i,j)元素表示第i个矩条件对第j个参数的导数。 比如,在线性模型y=xβ+u中,令表示参数β的GMM估计。 则矩条件为 目标函数为: 一阶条件为: 23 进而可求得GMM估计量 2.任意正定权数矩阵的GMM估计量的渐进特征 定理: 对于任意正定权数矩阵,具有一致性: 24 定理: 对于任意正定权数矩阵,具有渐进正态性: 25 其中,, 注: 对一阶条件在真实参数处进行泰勒级数展开便可得到GMM估计量的极限分布。 如果权数矩阵选择为单位矩阵,那么渐进协方差为。 3.任意正定权数矩阵的矩的渐进特征 GMM估计中,不仅参数估计量具有渐进正态性,而且矩也具有渐进正态性。 假设1: 如果Wt为正定矩阵,且。 假设2: 。 根据大数定理,样本矩收敛于总体矩, ,当时。 26 又根据中心极限定理, 27 其中,S表示的渐进协方差矩阵,即。 任意权数矩阵下,的渐进分布为: 28 其中,,B是对称幂等矩阵。 1.2.4最优权数矩阵的选择 对于任意满足假设1的权数矩阵,都具有一致性。 接下来,我们介绍如何确定最优的Wt及其渐进分布特征。 1.最优权数矩阵的选择 首先我们回顾一下GLS估计的思想。 对于方程,假设。 转换矩阵M满足: 转换后的新模型为: 令,即。 新的随机误差项的协方差矩阵为,是同方差、无序列相关的。 模型的目标函数为: 即,目标函数是u的加权平方和,而权数矩阵则是u的协方差矩阵的逆矩阵。 根据一阶条件得到GLS估计量: 与GLS相类似,GMM方法中,目标函数为各个矩的加权平方和,权数的选择则要考虑各个矩的异方差和相关性。 最优权数即是各个矩的协方差矩阵的逆矩阵。 ,,30 如果为一致估计量对应的矩,则S的一致估计量为: 32 因此,最优权数矩阵为: 33 31 θ的GMM估计量使得下式最小化 34 对于线性模型,。 如果误差项是同方差的,即,则 其中,是的一致估计量。 如果存在异方差,但不存在自相关,则S的估计量为: 如果存在自相关,则S的估计量为: 可以利用HAC估计量。 令 表示滞后j阶的协方差矩阵。 那么 •如果当j大于某个阶数q时,,我们可以使用统计量: 其中,协方差估计量为: 注: EViews中,HAC异方差一致协方差矩阵为: 其中, 需要选择核k和窗宽q。 2.选择最优权数矩阵时GMM估计量的渐进特征 当权数矩阵时,的渐进正态分布为 35 3.选择最优权数矩阵时矩的渐进特征 当权数矩阵时,将其带入上式中,并利用B的对称幂等性质,可以得到的渐进分布为: 36 S是矩条件的方差,S越大,V越大。 G反映了矩条件对θ变化的敏感程度,G越大,V越小。 因此,GMM估计量的方差取决于S和G,与S呈正比,与G呈反比。 1.2.5GMM估计步骤 要得到最优估计量,需要先得到权数矩阵;而要得到权数矩阵,需要先得到参数估计量。 因此,参数估计量和权数矩阵是两个相互交错的问题。 1.两步有效GMM估计 因为,对于任意权数矩阵,GMM估计总是一致的,因此可以先选择一个初始矩阵,得到参数的一致估计量,并利用该估计量计算权数矩阵,再利用新计算的权数矩阵的重新估计。 这即是两部GMM估计。 Step1: 选择初始权数矩阵,比如或,计算的一致估计量: 然后估计最优权重矩阵。 Step2: 利用第一步中得到的最优权重矩阵进行GMM估计,得到两步有效GMM估计量 . 2.K-Step迭代GMM估计 Step1: 选择初始权数矩阵,估计量表示为。 Step2: 估计新的权数矩阵,重新估计得到。 Step3: 反复迭代,直至收敛。 3.连续更新GMM估计 与前两种方法不同,连续更新GMM估计不是在和W之间反复迭代,而是将W看作是的函数,求解下式的最小化: 显然,上式的一阶条件与原来的一阶条件不同,但这种方法与两步估计和K步迭代估计是渐进等价的,但这种方法具有最好的小样本特征。 1.3模型设定检验 1.3.1Hansen过度识别约束检验(SarganJ检验) 当L>K时,矩条件个数多于参数个数。 这时,可能部分矩条件不成立。 因为这时参数属于过度识别,因此,对矩条件是否成立的检验也称为过度识别约束检验。 当权数矩阵选择最优矩阵时,即,那么 37 注意: EViewsGMM输出结果中给出的J统计量没有乘以T。 1.3.2检验正交条件的子集 假设存在L>K个工具变量。 L个工具变量分为两组,。 包括L1个工具变量,包括L2=L-L1个工具变量。 前L1个工具变量满足正交条件,但怀疑后L2个工具变量的正交条件是否得到满足。 比如,模型设定为: 38 工具变量满足 39 需要检验的是: 40 如果可信的工具变量的个数L1>=K,就可以对后L2个工具变量是否满足正交条件进行检验。 其基本思想是,分别用和作为工具变量估计模型(39),并分别计算J统计量。 如果增加可疑的工具变量使得J统计量明显增加,则表明不满足正交条件。 根据工具变量,将拆分成 , 其对应的协方差矩阵分解为: 其中,,,,。 根据(39)式,使用作为工具变量时,,J统计量为: 41 使用作为工具变量时,,J统计量为: 42 构建统计量: 43 在小样本情况下,C统计量可能会出现负值。 我们在工具变量估计中已经知道,方程的标准差如果采用相同的估计量(或者是一致估计,或者是有效估计,大部分采用有效估计),则可以
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 广义 估计