ST Pertemuan 9 Regresi Linear Berganda

Download Report

Transcript ST Pertemuan 9 Regresi Linear Berganda

Regresi Linier Berganda
Hafiez Sofyani, SE., M.Sc.
1
Asumsi Analisis Regresi Linier
1. Data Y berskala minimal interval
Data X berskala minimal nominal
(jika data X berskala nominal / ordinal
harus menggunakan bantuan variabel
dummy)
2. Existensi untuk setiap nilai dari variabel x
yang tetap, y adalah variabel random
dengan distribusi probabilitas tertentu
yang mempunyai mean dan varians.
2
Asumsi Analisis Regresi Linier
3. Nilai y secara statistik saling bebas
4. Linieritas, nilai rata-rata y adalah sebuah
fungsi garis lurus dari x
5. Homoscedasticity. Varians dari y adalah
sama pada beberapa x
6. Distribusi normal pada beberapa nilai
tertentu x, y mempunyai distribusi normal
3
Prosedur Analisis Regresi
1.
Menetapkan Model Ekonomi

2.
Menetapkan Hipotesa dan Menyusun
Landasan Teori Hipotesa


3.
Y = f (X1, X2, X3, …, )
One tail
H0 : i = 0 ; HA : i > 0
atau i < 0
Two tail
H0 : i = 0 ; HA : i  0
Mencari Data


Data Primer
Data Sekunder
Prosedur Analisis Regresi
4.
5.
6.
7.
Membuat Scatter Plot
Memilih Model Regresi
 Model Linier
 Model Non Linier [log-log; loglin; lin-log]
Melakukan Regresi
[Uji Asumsi Klasik] Intepretasi
Hasil dan Uji Diagnostik
Membuat Scatter Plot dan Memilih Model Regresi
DV
DV
(1)
IV
(2)
IV
Gambar (1): Lebih tepat menggunakan model regresi non-linier
Gambar (2): Lebih tepat menggunakan model regresi linier
Dari Scatter Plot dapat terdeteksi kebutuhan akan Dummy Independent
Variable
Analisis Regresi

Metode estimasi koef. Regresi menggunakan OLS
(BLUE), syaratnya:
 Hubungan Y dan X adalah linier [parameter]
 Nilai X tetap untuk observasi yang berulangulang (non-stokastik).
 Tidak ada korelasi antar variabel bebas (multikol)
 Nilai harapan atau rata-rata dari variabel
gangguan (e) adalah nol.
 Varian dari variabel gangguan adalah sama
(homo).
 Tidak ada korelasi antar variabel gangguan
(korelasi serial = autokorelasi).
 Variabel gangguan berdistribusi normal.
Regresi Linier Berganda
Model regresi linier berganda melibatkan lebih dari satu variabel
bebas. Modelnya :
Y   0   1 X 1   2 X 2  ...   k X k
Dimana
Y = variabel terikat
Xi = variabel bebas ( i = 1, 2, 3, …, k)
0 = intersep
i = koefisien regresi ( i = 1, 2, 3, …, k)
Model penduganya adalah
Y  b0  b1 X 1  b2 X 2  ...  bk X k
8
Regresi Linier Berganda
Misalkan model regresi dengan kasus 2 peubah
bebas X1 dan X2 maka modelnya :
Y   0  1 X 1   2 X 2
Sehingga setiap pengamatan  X 1i , X 2 i ; Yi  ; i  1, 2 ,..., n 
Akan memenuhi persamaan
Y   0  1 X 1   2 X 2   i
9
Menaksir Koefisien Regresi
Dengan Menggunakan Matriks
Dari hasil Metode Kuadrat Terkecil didapatkan
persamaan normal :
nb 0

b1  X 1i

b2  X 2 i
 ... 
bk  X ki 
b0  X 1i  b1  X 1i  b 2  X 1i X 2 i  ...  b k  X 1i X ki 
2
 Yi

X 1 i Yi

X ki Yi
…..
b0  X ki  b1  X ki X 1i b 2  X ki X 2 i  ...  b k  X ki 
2
10
Menaksir Koefisien Regresi
Dengan Menggunakan Matriks
Tahapan perhitungan dengan matriks :
1. Membentuk matriks A, b dan g
 n

X 1i


A
 ...

  X ki
11
 X 1i
2
 X 1i
 X 2i
 X 1i X 2 i
...
...
 X ki X 1i  X ki X 2 i
...
 X ki 

 X 1i X ki 
...
...
...
 X ki
...
2



Menaksir Koefisien Regresi
Dengan Menggunakan Matriks
 b0 
 
b1
b 
 ... 
 
 bk 
12
 g 0   Yi 


g 1   X 1iYi

g 


...


 g k   X ki Yi 
Menaksir Koefisien Regresi
Dengan Menggunakan Matriks
2. Membentuk persamaan normal dalam
bentuk matriks
Ab=g
3. Perhitungan matriks koefisien b
b = A-1 g
13
Metode Pendugaan Parameter
Regresi
Dengan Metode Kuadrat Terkecil, misalkan model terdiri dari 2
variabel bebas
n
 ei
n
2

i 1
 Yi  b0  b1 X 1i  b2 X 2 i 
2
i 1
Tahapan pendugaannya :
1. Dilakukan turunan pertama terhadap b0 , b1 dan b2

 e    2 Y
2
i
 b0

 e    2 Y
14
 b0  b1 X 1i  b2 X 2 i 
2
 b0  b1 X 1i  b 2 X 2 i  X 1i
i
 b1

i
i
 e    2 Y
2
i
 b2
i
 b0  b1 X 1i  b 2 X 2 i  X 2 i
Metode Pendugaan
Parameter Regresi
2. Ketiga persamaan hasil penurunan disamakan
dengan nol
nb 0  b1  X i1  b2  X i 2 
 Yi
b0  X 1i  b1  X i1  b 2  X 1i X i 2 
2

b0  X 2 i  b1  X i1 X 2 i  b 2  X i 2 
2
15
X 1 i Yi

X 2 iYi
Metode Pendugaan
Parameter Regresi
3. Nilai b1 dan b2 dapat diperoleh dengan memakai
aturan-aturan dalam matriks
b1 
b2 
n
 n
2 
  X 2    X 1Y
 i 1
  i 1
n
 n
 n

2 
2 
  X 1    X 2     X 1 X 2 
 i 1
  i 1
  i 1

n
 n
2 
  X 1    X 2 Y
 i 1
  i 1



2
  n
 n
    X 1 X 2    X 1Y
  i 1
  i 1
n
 n
 n

2 
2 
  X 1    X 2     X 1 X 2 
 i 1
  i 1
  i 1

b0  Y  b1 X 1  b 2 X 2
16
  n
 n
    X 1 X 2    X 2Y
  i 1
  i 1
2



Uji Kecocokan Model
1. Dengan Koefisien Determinasi
R 
2
JKR
JKT
R2 menunjukkan proporsi variasi total dalam respon Y
yang dapat diterangkan oleh model
R r
2
r merupakan koefisien korelasi antara Y dengan
kelompok X1 , X2 , X3 , … , Xk
17
Uji Kecocokan Model
2. Dengan Pendekatan Analisis Ragam
Tahapan Ujinya :
1. Hipotesis =
H0 :   0
H1 :   0
dimana
 = matriks [ 0, 1, 2, … , k ]
18
Uji Kecocokan Model
2. Tabel Analisis Ragam
Komponen
Regresi
SS
db
MS
Fhitung
Regresi
JKR
k
JKR / k
JKR /k
s2
Galat
JKG n – k – 1 s2 = JKG / n-k-1
Total
JKT
19
n–1
Uji Kecocokan Model
3. Pengambilan Keputusan
H0 ditolak jika Fhitung > Ftabel(1 , n-k-1)
pada taraf kepercayaan 
20
Uji Parsial Koefisien Regresi
Tahapan Ujinya :
1. Hipotesis =
H0 : j  0
H1 : j  0
dimana j merupakan koefisien yang akan
diuji
21
Uji Parsial Koefisien Regresi
2. Statistik uji :
t
bj  
j
s c jj
Dimana :
bj = nilai koefisien bj
s = JKG / n  k  1
cjj = nilai matriks A-1 ke-jj
22
Uji Parsial Koefisien Regresi
3. Pengambilan keputusan
H0 ditolak jika thitung > t /2(db= n-k-1)
pada taraf kepercayaan 
23
Contoh:
24