Transcript 異質性

Chapter 8
異質性
異質性
複迴歸,其同質性假設,都是假設條件於自變數
之未觀測誤差u 的變異數為一常數。當解釋變數
在不同值的情況下,使得u 的變異數也隨之變動
,這將導致同質性假設失效;例如,在儲蓄函數
中,影響儲蓄的未觀測因素的變異數會隨著收入
的增加而增加,此時異質性情況就會出現。 <例,所
得越高的家庭,其家庭儲蓄的差異性也會越高,因此,所得與儲蓄的
分佈圖,在所得越高的地方,會越分散。>
CH8 異質性 第323頁
異質性
無論是大樣本或是小樣本,要讓t 檢定、F 檢定及
OLS 下的信賴區間可以使用,必須做同質性假設
。在本章,我們將討論在異質性發生時可能的解
決方法,我們也將指出如何檢定異質性的存在。
一開始我們簡單地回顧以前在OLS 估計下出現異
質性的情況。
Recall: p110, MLR.5 同質變異性
CH8 異質性 第323頁
8.1 OLS 異質性的結果
考慮線性複迴歸模型:
y  0  1 x1  2 x2 
 k xk  u
8.1
異質性並不會引起OLS 估計式的偏誤或不一致性
,若忽略掉某個或某些重要變數才會造成偏誤或
不一致性。
<P323, 在高斯馬可夫假設MLR.1 ~ MLR.4之下,可證明
OLS估計式具不偏性及一致性,故MLR.5 對於不偏及一致
不具影響力。>
CH8 異質性 第323頁
8.1 OLS 異質性的結果
配適度的衡量,即R2或 R 2 的解釋也不會受到異質
性的影響。 <模型的配適度是指解釋的能力(Xs),而各
個解釋變數不受誤差項影響。>
既然,不影響估計式的不偏、一致性及配適度,
那模型具異質性會怎樣!??
由於OLS 的標準誤是基於這些變異數,它們也就
不再能夠有效的建構出信賴區間或t 統計量了。
在異質性下,普通OLS 的t 統計量並沒有t 分配,
且不會因為「大樣本」就能解決這個問題。
若有異質性,則我們在高斯馬可夫的假設下用來
檢定的統計量全都失效的。 <沒法做檢定啦!!>
CH8 異質性 第324頁
8.2 估計OLS 後之異質穩健的推論
因為假設檢定對於任何一種計量分析都是重要的
一環,且普通OLS 的推論在模型存在異質性的情
況下會發生錯誤,我們必須決定是否要完全放棄
OLS。
OLS 仍然是有用的。在最近20 年內,計量經濟學
家已經發現如何調整標準誤、t、F 以及LM 統計
量,經過調整後可以使得這些工具在模型存在有
未知形式的異質性(heteroskedasticity of unknown
form) 的情況下仍能發揮作用。
CH8 異質性 第324-325頁
8.2 估計OLS 後之異質穩健的推論
這個發現是非常有用且便利的,因為它使我們在進
行研究時可以忽略異質性的問題而提出有用的統計
量。這種方法稱為異質穩健(heteroskedasticityrobust) 程序,因為這個程序在不知道模型誤差項
的變異數是否固定的情況下是能夠發揮作用的(至
少在大樣本的條件下是有用的),且並不需要去判
斷誤差是否真有異質性的問題。
CH8 異質性 第325頁
8.2 估計OLS 後之異質穩健的推論
使用單一獨立變數來考慮這個模型,為強調起見
,我們利用i 作為下標: <不同的i 表示不同的觀察對象>
yi = β0 + β1xi +ui
假定高斯馬可夫的前四項假設成立。若誤差項有
異質性,則
Var(ui | xi )   i2
其中我們使用2 下標i 指出誤差項的變異數依賴
個別xi的值來決定。
CH8 異質性 第325頁
8.2 估計OLS 後之異質穩健的推論
將OLS 的估計式寫為:
n
ˆ1  1 
 ( x  x )u
i 1
n
i
i
2
(
x

x
)
 i
i 1
CH8 異質性 第325頁
8.2 估計OLS 後之異質穩健的推論
在MLR.1 至MLR.4 成立之下(意指,沒有同質性
假設),條件於樣本中個別xi 的值, <from p57, (2.52)式>
n
Var( ˆ1 ) 
2 2
(
x

x
)
i
 i
i 1
2
x
SST
8.2
其中SSTx   i 1 ( xi  x ) 2是所有xi項的總平方和。
n
CH8 異質性 第325頁
8.2 估計OLS 後之異質穩健的推論
對所有i 當    時,這個公式可以簡化為
2/SSTx。
將 uˆi 定義為y 對x 迴歸式中的OLS 殘差項,在任
何異質性的形式下(包含同質性),一個有效的
Var(ˆ1 ) 估計式為:
2
i
2
n
2 2
(
x

x
)
uˆi
 i
i 1
SSTx2
CH8 異質性 第326頁
8.3
8.2 估計OLS 後之異質穩健的推論
一般化複迴歸模型中可以得到類似的公式
y = β0 + β1x1 + … + βkxk + u
在MLR.1 至MLR.4 成立下,可證明 Var( ˆ j ) 的一
個有效力的估計式為:
n
Var( ˆ j ) 
r
2
ij
u
i 1
SSR 2j
2
i
8.4
其中rˆij 定義為xj對其他獨立變數迴歸,式中的第i
個殘差,且SSRj是此迴歸式的殘差項平方和。
(8.4) 式的值開根號後可以得到 ˆ j 的異質穩健標準
誤 (heteroskedasticity-robust standard error)。
CH8 異質性 第326頁
8.2 估計OLS 後之異質穩健的推論
建立一個異質穩健t 統計量(heteroskedasticityrobust t statistic) 是非常容易的。可以藉由一般化t
統計量來表示:
估計- 假設值
t
標準誤
8.5
一般OLS 的t 統計量與異質穩健t 統計量的唯一差
異在分母中標準誤的計算方式。
異質穩健F 統計量(heteroskedasticity-robust F
statistic) 又可稱為異質穩健Wald 統計量。
CH8 異質性 第327.329頁
8.2 估計OLS 後之異質穩健的推論
練習
課本 p 327 範例8.1
計算異質穩健標準誤
CH8 異質性 第330頁
8.2 估計OLS 後之異質穩健的推論
總而言之,誤差項具異質性,對於估計式的不偏
性、一致性及配適度皆無影響;但是~~若要再
進一步從事統計相關的推論時,則因為估計式的
標準誤是有偏誤的,無法做任何的檢定!
話雖如此,但是~~只要調整具偏誤的估計式標
準誤,還是能從事統計推論。
問題來了:此處介紹的調整過程對同學而言:太
難了!!難道,要放棄了嗎!?
CH8 異質性 第330頁
計算異質穩健LM 檢定
並不是所有的迴歸軟體都可以算出穩健於異質性
的F 統計量。因此,有時候有一個穩健於異質性
且不需要特殊的計量軟體就可以對多個排除性限
制做檢定的方法是很方便的。我們可利用任何迴
歸軟體求得異質穩健LM 統計量
(heteroskedasticityrobust LM statistic)。
CH8 異質性 第330頁
計算異質穩健LM 檢定
為了計算穩健LM 統計量,我們先建立一個迴歸模
型:
y = β0 + β1x1 + β2x2 + β3x3 + β4x4 + β5x5 + u
且假設我們要做H0: β4 = 0, β5 = 0的檢定。
CH8 異質性 第330頁
計算異質穩健LM 檢定
在整理之後可以得到異質穩健LM 統計量一般化的
步驟如下。
異質穩健LM 統計量:
1. 由受限制的模型中得到 u。
2. 將欲排除的獨立變數對其他未排除的獨立變數作
迴歸,如果有q個排除變數,則有q組殘差
(r1, r2 , , rq )。
CH8 異質性 第331頁
計算異質穩健LM 檢定
異質穩健LM 統計量:
3. 得到每一個 r j以及 u的乘積(對所有觀察值)。
, rqu的沒有截距項的迴歸式,且
4. 作1 對 ru
1 , r2u,
異質穩健LM統計量為n-SSR1 ,其中SSR1就是這
個最後迴歸的殘差平方和。在虛無假設H0下,LM
2

的分配接近 。 q
CH8 異質性 第331頁
計算異質穩健LM 檢定
練習
課本 p 331 範例8.3
異質穩健LM統計量之計算
CH8 異質性 第331頁
小結:
當模型的誤差項具有異質性時<利用OLS所求得的估計式
不會影響其不偏性、一致性及配適度>:
檢定單一解釋變數是否具有解釋能力<一般而言
,我們都會用 t 檢定>,需要調整估計式的變異
數,以求得異質穩健標準誤,進一步計算調整
後的 t 檢定統計量。
檢定二個(含)以上的變數是否同時具解釋能
力<一般而言,我們都會用 F 檢定>,此時可計算
異質穩健 LM 統計量<與卡方查表值比較>即可。
CH8 異質性 第331頁
8.3 異質性的檢定
當模型具異質性時,我們已經有辦法經由調
整再進一步做統計推論。
但是,要如何知道模型的誤差項是否具異質
性呢!?
利用檢定的方式,若檢定結果呈現具異質性
,才需要調整後再推論;否則,便回到以前
最簡單的 t 檢定及 F 檢定即可!
CH8 異質性 第332-333頁
8.3 異質性的檢定
異質穩健標準誤可以在不確定迴歸模型是否存在
異質性的情況下,提供一個計算為漸近t 分配之t
統計量的簡單方法。我們也可以計算出異質穩健F
以及LM 統計量。
適用這些檢定並不需要知道異質性是否存在。然
而,仍然有許多理由來解釋異質性檢定方法的重
要性。
第一,在古典線性迴歸模型假設下,一般t 統計量
服從確切的t 分配。
第二,假如存在有異質性,則OLS 估計式將不再
是最佳線性不偏估計式。
CH8 異質性 第332-333頁
8.3 異質性的檢定
由下列迴歸方程式開始
y  0  1 x1  2 x2 
 k xk  u
8.10
檢定過程中的虛無假說是同質性的假設MLR.5 成
立
H0 : Var(u | x1, x2 ,
, xk )  
2
8.11
假設誤差的條件期望值等於零,可以得到Var(u|x)
= E(u2|x),故同質性的虛無假設可以寫成
H0 : E(u 2 | x1, x2 ,
, xk )  E(u 2 )   2
CH8 異質性 第333頁
8.3 異質性的檢定
一個簡單的方法是先假設一個直線方程式:
u2  0  1x1  2 x2 
  k xk  v
8.12
 k  0
8.13
同質性的虛無假說為:
H0 : 1   2 
無法得知母體真實的誤差項,但是對於觀察值i 可
以藉由OLS 殘差估計式,uˆi ,作為一個合理的母體
誤差項ui的估計。因此,可估計方程式
uˆ 2  0  1x1  2 x2 
  k xk  error
CH8 異質性 第333-334頁
8.14
8.3 異質性的檢定
F 統計量可以寫成
2
uˆ 2
R /k
F
(1  Ruˆ2 2) /(n  k  1)
CH8 異質性 第334頁
8.15
8.3 異質性的檢定
有異質性的LM 統計量為樣本大小乘上(8.14) 式的
R2 :
LM  n R
2
uˆ 2
8.16
LM 的檢定方式又可以稱為Breusch-Pagan 檢定
(BP 檢定),Breusch 及Pagan (1979) 在假設誤差為
常態分配下提出了一個不同形式的檢定。Koenker
(1981) 則提出(8.16) 式的LM 統計量,由於較大的
可應用性,所以較受歡迎。
CH8 異質性 第334-335頁
8.3 異質性的檢定
關於BP 檢定方法:
1. 利用OLS 估計(8.10) 迴歸式並求得OLS 殘差項的平
方 。uˆ 2
2. 估計(8.14) 迴歸式,並求出 Ruˆ2。
2
3. 求出F 或LM 統計量及對應的p 值(前者用Fk, n-k - 1
2

分配,後者用 分配)。若p
值夠小,亦即,其小
k
於所選定的顯著水準,則拒絕同質性的虛無假設。
CH8 異質性 第335頁
8.3 異質性的檢定
練習
課本 p 335 範例8.4
BP檢定(檢定模型的誤差項是否具異質性)
CH8 異質性 第335頁
異質性的White 檢定
同質性假設Var(u1|x1, ..., xk) = 2 是可以被u2與所有
2
自變數xj 、自變數平方 x j 以及所有的交叉項(xjxh, j
≠ h) 無關的較弱假設取代。
假定有一個包含三個獨立變數(k = 3) 的迴歸式,
White 檢定是基於下列的估計式:
uˆ 2   0  1 x1   2 x2   3 x3   4 x12   5 x22   6 x32
  7 x1 x2   8 x1 x3   9 x2 x3  error
CH8 異質性 第336頁
8.19
異質性的White 檢定
異質性的White 檢定(White test for
heteroskedasticity) 是用來檢定除了截距項之外,
(8.19) 式所有的δj 值皆為0 的LM 統計量。因此,
在這種情況有九個限制要檢定。對此假設也可用F
檢定;這二種檢定在大樣本下都是可行的。
太多獨立變數是純粹White 檢定的一個弱點:它
在有限個獨立變數的模型中用了太多自由度。
可透過估計以下方程式來檢定異質性
2
2
u   0  1 y   2 y  error
CH8 異質性 第337頁
8.20
異質性的White 檢定
何以原本複雜的檢定估計式可以利用配適
值及配適值的平方即可!?
若我們假定配適方程式為:
則平方項為<同時具有平方項及交叉項>:
CH8 異質性 第337頁
異質性的White 檢定
異質性的White 檢定之特例:
1. 用OLS 估計模型(8.10)。求得OLS 殘差 uˆ和配適
2
uˆ 2和配適值平方 yˆ。
值 。計算殘差平方
ˆy
2
2. 做(8.20) 式的迴歸。求出迴歸的R平方值, Ruˆ2。
3. 求出F 或LM 統計量,並計算p 值(前者用F2,n  3分
2

配,而後者用 2分配)。
CH8 異質性 第338頁
異質性的White 檢定
練習
課本 p 338 範例8.5
White檢定(檢定模型的誤差項是否具異質性)
CH8 異質性 第338頁
小結:
當我們不知道模型是否具有異質性時,應該
先檢定模型。
檢定的方法有:
1.BP檢定
2.White檢定
確定模型具異質性時,才需要經由調整方式
進行統計上的相關推論。
CH8 異質性 第338頁
以下小節skip
一般同學可略過8.4及8.5小節
建議:
1.若有同學日後確定考上研究所也決定會繼續
往下念時,屆時請自行研讀此兩節,研究所
的計量課程包含此部分!
CH8 異質性 第338頁