Transcript 第5章线性回归模型的应用

第5章
线性回归模型的应用
线性回归模型的应用
5.1 多元线性回归分析与因素控制
5.1.1多元回归与因素控制
5.1.2 缺失变量偏差
5.1.3 分割回归、F-W定理和影响消除
5.2 模型中变量的形式
5.2.1 对数模型和弹性
5.2.2 非线性自变量
线性回归模型的应用
5.3 虚拟变量
5.3.1 虚拟变量的引入方式
5.3.2 引入多个虚拟变量
5.4 参数约束检验
5.4.1 参数约束检验方法
5.4.2 参数约束检验应用
重要概念
5.1 多元线性回归分析与因素控制
5.1.1多元回归与因素控制
5.1.2 缺失变量偏差
5.1.3 分割回归、F-W定理和影响消除
5.1 多元线性回归分析与因素控制
5.1.1多元回归与因素控制
经济数据的生成受很多因素的影响，
要
研究所关注因素对经济过程的影响，必须对
其它因素的影响进行控制。
例子5.1
气温与冷饮消费
Coldr
 0  1AirCd   2 Whether  u
不能丢掉相关变量AirCd，否则可能产生
5.1 多元线性回归分析与因素控制
5.1.2 缺失变量偏差
丢掉相关变量，相当于将其放入误差项，如果
丢掉的变量与其他解释变量相关，间接地就导致解
释变量与误差项相关。
ˆ 的估计偏差： Bias (ˆ)  E(ˆ)  
例子5.1（续）
若回归的模型是：
Coldr   0   2 Whether  u
5.1 多元线性回归分析与因素控制
5.1.2 缺失变量偏差
例子5.1（续）
且AirCd受Whether影响表示为：
AirCd   0   1Whether  v
Bias ( ˆ2 )  E( ˆ2 )   2  ˆ11
ˆ1
1
为上式中对
和
偏差的大小和方向由 ˆ1
1
的估计
共同决定。
5.1 多元线性回归分析与因素控制
5.1.2 缺失变量偏差
结论1：缺失变量偏误
设完整回归模型为 Y  0  1 X1     k X k  Q  u ，误
差项 u 满足外生性假设。丢掉变量Q 后的模型为
Y  0  1X1     k X k  v 。Q 与 X i , i  1,2,, k 的
关系可表示为回归 Q   0  1 X1     k X k  w ，ˆi 为 i
的OLS估计。丢掉变量 Q 导致的OLS估计偏误为
Bias( ˆ )      ˆ , i  1,2,, k
i
i
i
5.1 多元线性回归分析与因素控制
5.1.2 缺失变量偏差
例子5.2
货币需求量
邹志庄的模型
Yt  0  1 X1t   2 X 2t  3 X 3t  ut
泰勒和纽豪斯的模型
Yt  0  1 X1t   2 X 2t  3 X 3t   4Yt 1  ut
5.1 多元线性回归分析与因素控制
5.1.3 分割回归、F-W定理和影响消除
分割回归步骤：
Yi  0  1 X1i   2 X 2i  3 X 3i  ui
第一步：对以 X1 为因变量，X 2 、X 3 为自变量的回
归模型 X1i   0   2 X 2i   3 X 3i  vi 进行OLS估计，得到回
归残差 v̂i ；
第二步：对以Y 为因变量，X 2 、X 3 为自变量的回
归模型 Yi  0  2 X 2i  3 X 3i  wi 进行OLS估计，得到回
归残差 ŵi ；
5.1 多元线性回归分析与因素控制
5.1.3 分割回归、F-W定理和影响消除
分割回归步骤：
Yi  0  1 X1i   2 X 2i  3 X 3i  ui
第三步：对以 ŵi 为因变量，v̂i 为自变量进行一元线
性回归 wˆ i  vˆi   i ，  的OLS估计 ˆ 便是 1 的OLS
估计。
 结 论2：ˆ 等于回归系数1 的OLS估计。(F-W定理)
其直观意义即是：X1 的回归系数的OLS估计，等于
X1
X2
X3 和
剔除
的影响后
对
的一元
Y
线性回归的回归系数OLS估计。
5.2 模型中变量的形式
5.2.1 对数模型和弹性
5.2.2 非线性自变量
5.2 模型中变量的形式
5.2.1 对数模型和弹性
• 前面的模型中回归系数刻画的都是边际效应：解
释变量变化以单位所能引起的被解释变量变化的
单位。（不能消除单位的影响）
• 弹性则采用相应的百分比变化，不受单位的影响。
• 对数模型的回归系数表示的就是弹性
log Y  0  1 log X1    m log X m  m1 X m1  k X k  u
• 取对数能降低数据量级,宏观数据经常取对数。
5.2 模型中变量的形式
5.2.2 非线性自变量
将加入的非线性自变量看做新的自变
量，
模型就还是线性的。
• 平方项：年龄对工资收入的影响、平均成
本和产量的关系（例子5.4）、工资收入和
阅历的关系 Y  0  1 (1/ X )  
• 双曲线模型 Y   /(1  e X u )   /(1  eX u ), X  0
• 逻辑曲线模型
5.3 虚拟变量
5.3.1 虚拟变量的引入方式
5.3.2 引入多个虚拟变量
5.3 虚拟变量
• 只取值0和1的自变量称为虚拟变量，也称
为哑变量（dummy variable）或者二值变量
（binary variable）。
• 此处仅讨论解释变量取虚拟变量的情况，
被解释变量取虚拟变量（二元选择模型）
的情形留待第7章解释。
5.3 虚拟变量
5.3.1 虚拟变量的引入方式
假设家庭消费支出受可支配收入影响，
计量模型为
Ci   0  1I i  ui
1 高收入家庭
D
0 低收入家庭
5.3 虚拟变量
5.3.1 虚拟变量的引入方式
 加法方式
Ci   0   d( c ) Di  1 I i  ui

(c )
d
代表不同收入家庭自发性消费
的差异。
加法方式引入的虚拟变量，用于体
现不
同对象对应模型的常数项变化。
5.3 虚拟变量
5.3.1 虚拟变量的引入方式
 乘法方式
Ci   0   d( s ) Di I i  1I i  ui

(s )
d
代表不同收入家庭边际消费倾向的差异。
乘法方式引入的虚拟变量，用于体
现不
同对象对应模型的斜率参数的变化。
5.3 虚拟变量
5.3.1 虚拟变量的引入方式
 混合方式
Ci   0   d( c ) Di  ( 1   d( s ) Di ) I i  ui
检验不同收入家庭消费模型是否有差异。
H0 : 
(c)
d

(s)
d
0
5.3 虚拟变量
5.3.2 引入多个虚拟变量
当属性分类超过两个时，需要引入多个
虚拟变量来刻画不同类别对象的差异。
结 论3：虚拟变量的个数
对于带截距项的模型，为表示某一属性
不同类别引入虚拟变量时，虚拟变量的个数
等于类别个数减去1。
若虚拟变量数与类别数相同，则存在完
全共线性，模型无法估计。
5.3 虚拟变量
5.3.2 引入多个虚拟变量
例子5.6 性别、高等教育和工资收入
Y  0  1D1   2 D2  3expe  u
Y  0  1D1   2 D2  3expe  D1  D2  u
Y  0  1D1   2 D2  3 expe  D1  D2  D1  expe  u
1 受过高等教育
D1  
0 未受过高等教育
1 男性
D2  
0 女性
5.4 参数约束检验
5.4.1 参数约束检验方法
5.4.2 参数约束检验应用
5.4 参数约束检验
5.4.1 参数约束检验方法
• 原理：比较受约束的和不受约束的模型的
残差平方和是否有明显差别
检验统计量：
(SSR r  SSR ur ) / q
Tr 
SSR ur /( n  (k  1))
无约束模型回归残差平方和：SSR ur
约束模型回归残差平方：SSR r
无约束模型中解释变量个数：k
约束条件个数：q
样本容量：n
5.4 参数约束检验
5.4.1 参数约束检验方法
结论4：参数约束检验统计量
在约束条件（原假设）成立时，统计
量 Tr 服从自由度为q和（n-(k+1)）的 F分布。
原假设：
H 0 : 参数约束正确
5.4 参数约束检验
5.4.2 参数约束检验应用
参数约束检验应用
冗余变量联合检验
Y  0  1 X1    k X k  u
H 0 :  k  q 1     k  0
例子5.3 高等教育规模-不同地区
ln Y  0  d1D1  d2 D2  1 X1   2 X 2  3 ln X 3   4 ln X 4  5 ln X 5  u
H0 : d1  d 2  0
Tr 
(SSR r  SSR ur ) / q (0.6802  0.6514) / 2

 0.51  F0.05 (2,23)  5.72
SSR ur /( n  (k  1)) 0.6514 /(31  (7  1))
故认为不同地区的高等教育规模模型没有显著差异。
参数约束检验应用
冗余变量联合检验
例子5.3 高等教育规模-不同地区
EViews 实现该检验：
先对无约束模型进行回归，在结果输出界面点击
View→Coefficient Diagnostics→Redundant Variables TestLikelihood Ratio…，
在弹出的对话框中键入需要检验的冗余变量，点击OK
参数约束检验应用
冗余变量联合检验
例子5.3 高等教育规模-不同地区
得到结果：
参数约束检验应用
函数形式检验
RESET（Regression Equation Specification Error Test）
步骤：
Y  0  1 X1   2 X 2  u
1.对 Y  0  1 X1  2 X 2  u 进行回归，得拟合值
Yˆ  0  1 Xˆ 1  2 Xˆ 2
2.对Y  0  1 X1  2 X 2   1Yˆ 2   2Yˆ 3   进行回归
3.对原假设 H 0 :  1   2  0 进行检验
参数约束检验应用
函数形式检验
例子5.7 工资模型中的高阶项
I : lwage  0  1age   2educ  3exper   4 married  5 IQ  u
II : lwage  0  1age   2educ  3exper
  4 married  5 IQ   1lwagef 2   1lwagef 3  
Tr 
(SSR r  SSR ur ) / q
(49.86  49.26) / 2

 2.515  F0.05 (2,413)
SSR ur /( n  (k  1)) 49.26 /( 421  (7  1))
参数约束检验应用
函数形式检验
例子5.7 工资模型中的高阶项
EViews实现该检验：
对原模型进行OLS回归，在回归结果界面点击
View→Stability Diagnostics→Ramsey RESET Test
在弹出的对话框中键入需要添加的拟合项阶数
参数约束检验应用
函数形式检验
例子5.7 工资模型中的高阶项
得到结果：
参数约束检验应用
线性约束检验
 ' X   ,  (1 , 2 ,... q )' , X  ( X 1 , X 2,... X q )' ,   ( 1 ,  2 ,...,  q )'
例子5.8 规模报酬不变生产函数
P  AL K  eu ,   0,   0
Y  0  1 X1   2 X 2  
Y  ln P
X1  ln L
X 2  ln K
0  ln A
1  
2  
参数约束检验应用
线性约束检验
例子5.8 规模报酬不变生产函数
(SSR r  SSR ur ) / q (0.074652  0.074569) / 1
Tr 

 0.023  F0.05 (1,21)
SSR ur /( n  (k  1))
0.074569 /( 23  (2  1))
EViews实现该检验：
在估计结果界面点击View→CoefficientDiagnostics→Wald
Test-Coefficient Restrictions…，在弹出窗口键入线性约束
参数约束检验应用
线性约束检验
例子5.8 规模报酬不变生产函数
得到结果：
参数约束检验应用
参数断点检验（Breakpoint Test）
模型参数在某处发生结构性变化
设有两组样本，样本容量分别为 n1和 n2 ，设
(1)
(1)
(1)
(1)
Y




X




X

u
第一组数据的回归模为
，
0
1
1
k
k
( 2)
( 2)
( 2)
( 2)
Y




X




X

u
第二组样本的回归模型为
，
0
1
1
k
k
将两个数据集合合并后采用的回归模型为
Y  0  1 X1     k X k  u
H 0 : i(1)  i( 2) , i  0,1,, k
参数约束检验应用
参数断点检验（Breakpoint Test）
步骤：
1.用第一组数据对Y  0(1)  1(1) X1     k(1) X k  u (1) 回归，
得出残差平方和 SSR1
( 2)
( 2)
( 2)
( 2)
Y




X




X

u
2.用第二组数据对 0 1 1
回归，
k
k
回归残差为 SSR 2 ，无约束残差平方和为
SSR ur  SSR1  SSR 2
3.用合并数据对Y  0  1 X1    k X k  u 回归，得约
束的残差平方和 SSR r ，约束条件个数 p  k  1
参数约束检验应用
参数断点检验（Breakpoint Test）
步骤：
4.定义检验统计量
[SSR r  (SSR1  SSR 2 )] /( k  1)
Tt 
~ F (k  1,[n  2(k  1)])
(SSR1  SSR 2 ) /[ n  2(k  1)]
参数约束检验应用
参数断点检验（Breakpoint Test）
若样本为时间序列，则称之为邹检验（Chow
Breakpoint Test）
例子5.9
贝塔系数（股价与指数的关系）
Yt    X t  1 X t 1  Yt 1  ut
参数约束检验应用
参数断点检验（Breakpoint Test）
例子5.9
贝塔系数（股价与指数的关系）
第一个样本得到
Yt  0.02  0.85 X t  0.84 X t 1  0.97Yt 1
第二个样本得到
SSR1  0.126636
Yt  0.62  1.41X t  1.18 X t 1  0.86Yt 1
SSR 2  0.373328
SSR ur  0.499964
参数约束检验应用
参数断点检验（Breakpoint Test）
例子5.9
贝塔系数（股价与指数的关系）
整体样本得到
Yt  0.25  1.24 X t  1.15 X t 1  0.94Yt 1
SSR r  0.528167
[SSR r  (SSR 1  SSR 2 )] /( k  1)
Tr 
(SSR 1  SSR 2 ) /[ n  2(k  1)]
(0.528167  0.499964) / 4

0.499964 /( 292  2  4)
 4.00  F0.01 (4,284)  2.37
参数约束检验应用
参数断点检验（Breakpoint Test）
EViews实现该检验：
对整个样本区间进行回归（即第三个回归），在回归结果
输出界面顺序点击
View→Stability Tests→Chow Breakpoint Test，
弹出对话框中键入断点日期
参数约束检验应用
参数断点检验（Breakpoint Test）
得到结果：
如果对横截面数据进行断点检验，首先确定将样本分为两
个子样本的指标变量（例如性别），然后对合并样本进行
回归，并在结果输出界面点击View→Coefficient
Diagnostics→Factor Breakpoint Test，在弹出的对话框中输
入指标变量（例如性别），点击OK输出断点检验结果。
重要概念
1. 当影响因变量的自变量有多个，并且自变量之间存在
相关关系时，为正确估计所关注自变量对因变量的影响，
需要将相关自变量一同引入模型。
2. 丢失相关自变量会引起估计偏出，估计偏差的大小与
关注变量和缺失的相关变量的相关程度以及缺失变量对
因变量的回归系数确定。如果缺失变量与关注变量不相
关（无关变量），则不会引起估计偏误；如果缺失变量
对因变量没有解释能力，也不会引起估计偏误。
3. F-W定理表明，多元线性回归系数的OLS估计可以采用
多次线性回归的OLS估计得到。分割回归的原理在于首
先消除掉相关变量对因变量和所关注自变量的影响，通
过线性回归取残差的方法消除相关变量的影响。分割回
归从另一个侧面解释了多元回归的因素控制作用。
重要概念
4. 在应用中，可以对回归模型中的变量进行对数变换，由
此得出的回归系数为因变量关于自变量的弹性或者半弹性。
根据需要，可以引入自变量的平方项和交叉相乘项，更为
灵活地反映自变量对因变量的影响。一些因变量和自变量
的非线性模型，可以变换为线性模型，并可以用OLS对模
型参数进行估计。
5. 当自变量为属性变量时，需要用虚拟变量表示。根据需
要虚拟变量可以加分、乘法和混合三种方法引入模型。某
一属性有k个类别时，如果模型有截距项，为避免完全共
线性，只能引入k-1个虚拟变量，此时虚拟变量的回归系
数表示与基础类别的差异。
6. 参数约束检验用于检验回归模型的回归系数是否满足给
定的约束条件，检验的思想是对约束模型和无约束模型的
残差平方和进行比较，并以此为基础构造F检验统计量。
参数约束检验可用于冗余变量检验、回归函数形式检验、
回归系数线性约束检验以及参数断点检验。