Regresi Sederhana

Download Report

Transcript Regresi Sederhana

Operations Management
REGRESI
William J. Stevenson
Rosihan Asmara
http://rosihan.lecture.ub.ac.id
http://rosihan.web.id
8th edition
http://rosihan.web.id
Model Regresi Sederhana
Yi = 0 + 1 Xi + i
 0 dan 1 : parameter dari fungsi yg nilainya akan
diestimasi.
 Bersifat stochastik  untuk setiap nilai X terdapat suatu
distribusi probabilitas seluruh nilai Y atau Nilai Y tidak
dapat diprediksi secara pasti karena ada faktor
stochastik i yang memberikan sifat acak pada Y.
 Adanaya variabel i disababkan karena:
 Ketidak-lengkapan teori
 Perilaku manusia yang bersifat random
 Ketidak-sempurnaan spesifikasi model
 Kesalahan dalam agregasi
 Kesalahan dalam pengukuran
http://rosihan.web.id
Y
Y.i
.
.
i
.
Ÿi = b 0 + b 1 Xi
.
Ÿi
Yi
. .
Variation
in Y
.
= 0 + 1 Xi +
Systematic
Variation
i
Random
Variation
X
0
Asumsi-asumsi mengenai i:
1. i adalah variabel random yg menyebar normal
2. Nilai rata-rata i = 0, e(i) = 0.
3. Tidak tdpt serial korelasi antar i cov(i,j) = 0
4. Sifat homoskedastistas, var(i) = 2
5. cov(i,Xi) = 0
6. Tidak terdapat bias dalam spesifikasi model
7. Tidak terdapat multi-collinearity antar variebel penjelas
http://rosihan.web.id
Fungsi Regresi Populasi
Y
E(Yi) = 0 + 1 Xi
Yi = 0 + 1 Xi + i
Nilai rata2 Yi :
E(Yi) = 0 + 1 Xi
I = Yi - E(Yi)
X
X1
http://rosihan.web.id
X2
X3
METODE PENAKSIRAN PARAMETER DALAM
EKONOMETRIK
Metode estimasi yang sering digunakan adalah Ordinary Least
Square (OLS). Dalam regresi populasi dikenal pula adanya
istilah PRF (Population Regression Function) dan dalam
regresi sampel sebagai penduga regresi populasi dikenal
istilah SRF (Sample Regression Function).
P
Y
ei
ui
^Yi
0
http://rosihan.web.id
^
^
^
Y  X
E (Y )     X
Yi
Xi
SRF
X
PRF
Penaksir kuadrat terkecil adalah mempunyai varian yang minimum yaitu penaksir
tadi bersifat BLUE (Best Linear Unbiased Estimator). Asumsi yang harus
dipenuhi dalam penaksiran metode OLS adalah sebagai berikut :
1. i adalah sebuah variabel acak atau random yang riil dan memiliki distribusi
normal.
2. Nilai harapan dari i yang timbul karena variasi nilai Xi yang diketahui
harus sama dengan nol.
E(i/ Xi) = 0
3. Tidak terjadi autokorelasi atau serial korelasi. Artinya,
Cov(i, j) = Ei – E(i) j – E(j)
= E(i, j)
= 0 .................... i  j
4. Syarat Homoskedastisiti. Artinya bahwa varian dari i adalah konstan dan
sama dengan 2.
Var (i / Xi) = Ei – E(i)2
= E(i)2
= 2
5. Tidak terjadi multikolonieritas. Yaitu tidak ada korelasi antara  dengan
variabel bebasnya Xi atau :
Cov(i , Xi) = E(i – E(i))(Xi – E(Xi))
= 0
http://rosihan.web.id
REGRESI LINEAR SEDERHANA
Y = ß0 + ß1 X
Pengujian statistik SECARA PARSIAL mendasarkan pada hipotesis
:
Uji Konstanta Intersep
H0
H1
:
:
ß0 = 0
ß0 ≠ 0
Uji Koeff. X
H0
H1
:
:
ß1 = 0
ß1 ≠ 0
Pengujian statistik model secara keseluruhan dilakukan dengan uji-F.
Uji F mendasarkan pada dua hipotesis, yaitu :
H0
H1
http://rosihan.web.id
: Semua koefisien variabel bebas adalah 0 (nol)
: Tidak seperti tersebut di atas
Contoh :
Sehingga dapat disajikan hasil sebagai berikut :
S.E
t-hitung =
F hit = 202,868
Df
=8
Konsumsi = 24.455 + 0.509*Income
(6.414) (0.036)
3.813
14.243
R2 = 0.962
Dalam pengertian ekonomi dapat dikatakan bahwa jika terdapat
kenaikan income sebesar
$ 1
per bulan maka akan
mempengaruhi kenaikan pula pada konsumsi sebesar $ 0.509.
Demikian juga bila terjadi penurunan income sebesar $ 1 per
bulan maka akan berdampak pada penurunan konsumsi sebesar
$ 0.509.
http://rosihan.web.id
Estimasi Parameter
Model Regresi Sederhana
Yi = 0 + 1 Xi + i
Metode Kuadrat Terkecil
(Ordinary Least Square – OLS):
Prinsip: Meminimumkan nilai error – mencari jumlah
penyimpangan kuadrat (i2) terkecil.
i = Yi - 0 - 1 Xi
i2 = (Yi - 0 - 1 Xi)2
i2 =  (Yi - 0 - 1 Xi)2
i2 minimum jika:
i2 /0 = 0  2 (Yi - 0 - 1 Xi) = 0
i2 /1 = 0  2  Xi (Yi - 0 - 1 Xi) = 0
http://rosihan.web.id
Sederhanakan, maka didapat:
 (Xi – X) (Yi – Y)
b1 =
 (Xi – X)2
b 0 = Y - b 1X
dimana
b0 dan b1 nilai penduga untuk 0 dan 1.
X dan Y adlh nilai rata2 pengamatan X dan Y
Standar error:
2
½
SE(b1) =
SE(b0) =
 (Xi – X)2
 Xi2
N (Xi –
 diduga dengan s, dimana:
s = (i2 /n-2)2
http://rosihan.web.id
dan
i2 = (Yi – Y)2
X)2
½

Metode Ordinary Least Squares (OLS)
Yi = 1 + 2 Xi + i(1)
Yi = 1 + 2 Xi + i (2)
Ŷi = 1 + 2 Xi
(3)
Yi = Ŷi + i
(4)
i = Yi - Ŷi
(5)
2 =
=
=
http://rosihan.web.id
n XiYi – Xi Yi
n
Xi2
–
(Xi)2
(Xi – X)(Yi – Y)
(Xi – X)2
n xiyi
 xi2
Persamaan umum Regresi
sederhana
1 dan 2 adalah nilai estimasi
untuk parameter
Ŷi = nilai estimasi model
i = nilai residual
1 =
(Xi )2 Yi – Xi XiYi
n  Xi2 – (Xi)2
= Y – 2X
Koefisien parameter untuk 1 dan 2
Standard error of the estimates
Var(2) = 2 /  Xi2
Se(2) =
Var(1) =
Se(1) =
2 =
Var(2) =
 Xi2
2

=
 Xi2
 Xi2
2
n  xi2
Var(1) =
 i2
n–2
 Xi2
2
n  xi2
 i2 =  yi2 – 22  xi2
=  yi2 –
http://rosihan.web.id
 (xi yi) 2
 xi2
Koefisien Determinasi
•
Y
1 + 2 Xi
RSS
TSS
TSS = RSS + ESS
ESS
Y
1=
X
r2 =
ESS
TSS
atau
= 1–
http://rosihan.web.id
=
ESS
TSS
= 1–
TSS
RSS
+
TSS
 (Ŷi - Y)2
=
 (Ŷi - Y)2
 (Yi -
ESS
 (Yi -
Y)2
Atau:
Y)2
r2 = 22
 i2
 (Yi -
Y)2
=
+
 i2
 (Yi - Y)2
 xi2
 yi2
 (xi yi) 2
 xi2  yi2