Transcript Chapter 9 이분산

• 다중회귀모형 가정의 변형
- 독립변수간에 선형관계 없음
-> 다중공선성(Multicollinearity)
- 오차항의 분산이 동일
-> 이분산(Heteroscedasticity)
- 오차항의 상관성없음
-> 자기상관(Autocorrelation)
1/14
Chapter 9
이분산
Heteroscedasticity
2/14
1. 이분산의 성격과 문제점
(1) 이분산의 성격과 문제점




고전적 회귀분석의 가정-오차항 평균 0, 분산이
σ2
횡단면 – 이분산, 시계열 – 자기상관
이분산의 경우 최소자승추정량을 구하게 되면 불
편성과 일치성은 유지되나 추정량의 분산이 커져
효율성이 낮아져 BLUE가 되지 못함
신뢰구간, t-검정, F-검정은 잘못된 판정유도
3/14
V ( i )   i2   2j  V ( j ) ( for some i  j )
 오차항의 이분산 문제가 있으며 자기상관은
없는 것으로 가정
 즉 Cov(εi, εj)=0의 조건은 성립
Yi  1  1 X i   i (i  1,2,..)
 오차항이 동분산을 가질 경우
최소자승추정량 b2의 분산은 (제4장;페이지
102-103참조)
 b2
2
ˆ (b ) 
V
2

2
n

( X i  X )2
i 1
4/14
 오차항의 분산에 대한 추정량(동분산경우)
e

ˆ
S
 

2
2
i
2
n2
 b2의 분산에 대한 추정량(동분산경우)
sb2
2
 Vˆ (b2 ) 
s2
n

( X i  X )2
i 1
 이분산일 경우 b2의 분산
n
b
2
2
 V (b2 ) 
 ( X i  X )2 i
2
i 1
n
[ ( X i  X ) 2 ] 2
i 1
5/14
 이분산이 있는 경우
b2의 분산에 대한 일치 추정량은 다음과 같다.
n
sb2 2  V (b2 ) 

( X i  X ) 2 ei 2
i 1
n
[

( X i  X ) 2 ]2
i 1
ei는 회귀모형에 대한 OLS잔차
6/14
• 이를 계수추정량의 분산에 대한 White의
이분산-일치(heteroscedasticityconsistent) 추정량이라하고 이분산이 있
는 경우에도 t-통계량을 토대로 통상적 가
설검정 가능
• 이분산이 있으면 OLS와 white추정량은 큰
차이가 있으며 없는 경우 검정결과가 비
슷할 것임
7/14
2. 이분산여부의 검정
(1) 잔차의 그래프분석
- 추정치 잔차항의 특성을 분석하여 오차
항의 이분산 검정
ei혹은 ei2의 움직임을 종축에 그렸을 때
변함이 없으면 이분산이 없지만 체계적
으로 증가 혹은 감소하면 이분산존재
8/14
(2) White의 이분산 검정법
Yi  1   2 X 2i   3 X 3i   i
① 먼저 위식을 OLS에 의해 추정하여 잔차
도출
ei  Yi  b1  b2 X 2i  b3 X 3i
② 보조회귀식
ei  1   2 X 2i   3 X 3i   4 X 2i   5 X 3i   6 X 2i X 3i  vi
2
2
2
③ 보조회귀식에 대한 귀무가설 검정
H o:  2   3   4   5   6  0
9/14
• 검정통계치는 nR2로 n은 관측치의 수, 그
리고 R2는 보조회귀식의 추정결과 도출된
결정계수의 값-자유도 5인 Χ2
• 여기서 귀무가설 기각되지 않으면 이분산
없어서 OLS, 반면 기각되면 OLS가 BLUE
가 되지 못하여 이분산을 해결할 수 있는
추정법 고려
10/14
3. 이분산의 해결방안 검토
• 만약 σi2의 값을 알고 있다면
Yi
 1
i
Yi   1
*
1
i
1
i
 2
X 2i
i
 3
X 3i
i

i
i
  2 X 2 i   3 X 3i  u i
*
*
• 이렇게 변환하여 추정하면 BLUE도출
• 원래의 자료를 각 관측치에 대한 오차항의 표준오
차를 이용하여 최소자승추정법을 적용하는 것을
가중최소자승추정법(WLS: weighted least
squares) 이라 함
• 오차항의 분산이 보다 일반적이라는 의미에서 일
반최소자승법이라고도 함(GLS)
11/14
•
•
그러나 실제 σi2를 모르는 경우
OLS로부터 잔차도출
ei  Yi  b1  b2 X 2i  b3 X 3i
•
보조회귀식 추정하여
ei  1   2 X 2i   3 X 3i   4 X 2i   5 X 3i   6 X 2i X 3i  vi
2
•
•
2
2
ˆ i 2
위에서 구한
를 이용하여 앞에서 설
명한 WLS방법으로 추정
오차항의 분산을 추정하여 가중최소자승
법을 적용시키는 방법을 실행가능한 일
반최소자승법(FGLS)혹은 추정된 일반최
소자승추정법(EGLS)라 함
12/14
•
•
그러나 실제 σi2를 모르는 경우
예를 들어
 i2   2 X i   2 ( X i )2 혹은  i2   2 X i2
인 경우
X i 또는 X i
를 σi 를 대신 가중치로 사용하면 됨
13/14
•
오차항의 분산에 대한 추정치가 음으로
나오는 경우가 발생할 가능성이 있어서
다음과 같이 로그변환한 자료를 사용하
기도 함
log( ei )  1   2 X 2i   3 X 3i   4 X 2i   5 X 3i   6 X 2i X 3i  vi
2
2
2
log( ˆ i )  1   2 X 2i   3 X 3i   4 X 2i   5 X 3i   6 X 2i X 3i  vi
2
ˆ i e
2
•
2
2
log(ˆ i 2 )
이 추정치는 항상 양의 값이 됨
14/14