Chapter 9 이분산
Download
Report
Transcript Chapter 9 이분산
• 다중회귀모형 가정의 변형
- 독립변수간에 선형관계 없음
-> 다중공선성(Multicollinearity)
- 오차항의 분산이 동일
-> 이분산(Heteroscedasticity)
- 오차항의 상관성없음
-> 자기상관(Autocorrelation)
1/14
Chapter 9
이분산
Heteroscedasticity
2/14
1. 이분산의 성격과 문제점
(1) 이분산의 성격과 문제점
고전적 회귀분석의 가정-오차항 평균 0, 분산이
σ2
횡단면 – 이분산, 시계열 – 자기상관
이분산의 경우 최소자승추정량을 구하게 되면 불
편성과 일치성은 유지되나 추정량의 분산이 커져
효율성이 낮아져 BLUE가 되지 못함
신뢰구간, t-검정, F-검정은 잘못된 판정유도
3/14
V ( i ) i2 2j V ( j ) ( for some i j )
오차항의 이분산 문제가 있으며 자기상관은
없는 것으로 가정
즉 Cov(εi, εj)=0의 조건은 성립
Yi 1 1 X i i (i 1,2,..)
오차항이 동분산을 가질 경우
최소자승추정량 b2의 분산은 (제4장;페이지
102-103참조)
b2
2
ˆ (b )
V
2
2
n
( X i X )2
i 1
4/14
오차항의 분산에 대한 추정량(동분산경우)
e
ˆ
S
2
2
i
2
n2
b2의 분산에 대한 추정량(동분산경우)
sb2
2
Vˆ (b2 )
s2
n
( X i X )2
i 1
이분산일 경우 b2의 분산
n
b
2
2
V (b2 )
( X i X )2 i
2
i 1
n
[ ( X i X ) 2 ] 2
i 1
5/14
이분산이 있는 경우
b2의 분산에 대한 일치 추정량은 다음과 같다.
n
sb2 2 V (b2 )
( X i X ) 2 ei 2
i 1
n
[
( X i X ) 2 ]2
i 1
ei는 회귀모형에 대한 OLS잔차
6/14
• 이를 계수추정량의 분산에 대한 White의
이분산-일치(heteroscedasticityconsistent) 추정량이라하고 이분산이 있
는 경우에도 t-통계량을 토대로 통상적 가
설검정 가능
• 이분산이 있으면 OLS와 white추정량은 큰
차이가 있으며 없는 경우 검정결과가 비
슷할 것임
7/14
2. 이분산여부의 검정
(1) 잔차의 그래프분석
- 추정치 잔차항의 특성을 분석하여 오차
항의 이분산 검정
ei혹은 ei2의 움직임을 종축에 그렸을 때
변함이 없으면 이분산이 없지만 체계적
으로 증가 혹은 감소하면 이분산존재
8/14
(2) White의 이분산 검정법
Yi 1 2 X 2i 3 X 3i i
① 먼저 위식을 OLS에 의해 추정하여 잔차
도출
ei Yi b1 b2 X 2i b3 X 3i
② 보조회귀식
ei 1 2 X 2i 3 X 3i 4 X 2i 5 X 3i 6 X 2i X 3i vi
2
2
2
③ 보조회귀식에 대한 귀무가설 검정
H o: 2 3 4 5 6 0
9/14
• 검정통계치는 nR2로 n은 관측치의 수, 그
리고 R2는 보조회귀식의 추정결과 도출된
결정계수의 값-자유도 5인 Χ2
• 여기서 귀무가설 기각되지 않으면 이분산
없어서 OLS, 반면 기각되면 OLS가 BLUE
가 되지 못하여 이분산을 해결할 수 있는
추정법 고려
10/14
3. 이분산의 해결방안 검토
• 만약 σi2의 값을 알고 있다면
Yi
1
i
Yi 1
*
1
i
1
i
2
X 2i
i
3
X 3i
i
i
i
2 X 2 i 3 X 3i u i
*
*
• 이렇게 변환하여 추정하면 BLUE도출
• 원래의 자료를 각 관측치에 대한 오차항의 표준오
차를 이용하여 최소자승추정법을 적용하는 것을
가중최소자승추정법(WLS: weighted least
squares) 이라 함
• 오차항의 분산이 보다 일반적이라는 의미에서 일
반최소자승법이라고도 함(GLS)
11/14
•
•
그러나 실제 σi2를 모르는 경우
OLS로부터 잔차도출
ei Yi b1 b2 X 2i b3 X 3i
•
보조회귀식 추정하여
ei 1 2 X 2i 3 X 3i 4 X 2i 5 X 3i 6 X 2i X 3i vi
2
•
•
2
2
ˆ i 2
위에서 구한
를 이용하여 앞에서 설
명한 WLS방법으로 추정
오차항의 분산을 추정하여 가중최소자승
법을 적용시키는 방법을 실행가능한 일
반최소자승법(FGLS)혹은 추정된 일반최
소자승추정법(EGLS)라 함
12/14
•
•
그러나 실제 σi2를 모르는 경우
예를 들어
i2 2 X i 2 ( X i )2 혹은 i2 2 X i2
인 경우
X i 또는 X i
를 σi 를 대신 가중치로 사용하면 됨
13/14
•
오차항의 분산에 대한 추정치가 음으로
나오는 경우가 발생할 가능성이 있어서
다음과 같이 로그변환한 자료를 사용하
기도 함
log( ei ) 1 2 X 2i 3 X 3i 4 X 2i 5 X 3i 6 X 2i X 3i vi
2
2
2
log( ˆ i ) 1 2 X 2i 3 X 3i 4 X 2i 5 X 3i 6 X 2i X 3i vi
2
ˆ i e
2
•
2
2
log(ˆ i 2 )
이 추정치는 항상 양의 값이 됨
14/14