Transcript Jaringan Syaraf Tiruan
P ERTEMUAN 13
Jaringan Syaraf Tiruan
SUB TOPIK BAHASAN
Pengertian JST Komponen JST Arsitektur JST Fungsi Aktivasi
P
ENGERTIAN
JST
Jaringan syaraf merupakan salah satu representasi buatan dari otak manusia yang selalu mencoba untuk mensimulasikan proses pembelajaran pada otak manusia tersebut Buatan karena di implementasikan dengan program komputer
KO
MPONEN
J
ARINGAN
S
YARAF Jaringan syaraf terdiri atas beberapa neuron Ada hubungan antar neuron Neuron mentransformasikan informasi yg diterima melalui sambungan keluarnya menuju neuron-neuorn yg lain Pada jaringan syaraf hubungan ini dikenal dengan bobot
A
RSITEKTUR
J
ARINGAN Neuron-neuron dikelompokkan dalam lapisan-lapisan Neuron yang terletak pada lapisan yang sama akan memiliki keadaan yang sama Kelakuan neuron ditentukan oleh fungsi aktivasi dan pola bobotnya
A
. S
INGLE
L
AYER NET X1 X2 X3 W11 W12 W21 W22 W31 W32 Y1 Y2 Nilai Input lapisan input Matriks bobot Lapisan Output Nilai Output
B
. M
ULTIPLE
L
AYER
N
ET
V11 X1 X2 X3 V12 V21 V22 V31 V32 W1 Z1 Z2 W2 Y Nilai Input lapisan input Matriks bobot Pertama Lapisan Tersembunyi Matriks Bobot kedua Lapisan Output Nilai Output
F
UNGSI AKTIVASI Masukan pada jaringan akan diproses oleh suatu fungsi yang akan menjumlahkan nilai-nilai semua bobot dan bias. Hasil dari penjumlahan akan dibandingkan dengan suatu nilai ambang (threshold) melalui fungsi aktivasi setiap neuron.
H
ARD
L
IMIT
(
UNDAK
B
INER
)
Y
y
1 0 , 1 ,
jika x
0
jika x
0 0 X
S
YMETRIC
H
ARD
L
IMIT
(B
IPOLAR
)
Y 1
y
1 , 0 , 1 ,
jika x
0
jika x jika x
0 0 0 X -1
F
UNGSI
L
INIER
(I
DENTITAS
)
Y 1 y = x -1 0 -1 1 X
S
YMETRIC
S
ATURATING
L
INEAR
S
IGMOID
B
INER
S
IGMOID
B
IPOLAR
P
ROSES
P
EMBELAJARAN Supervised learning UnSupervised learning
A
. S
UPERVISED LEARNING Pembelajaran terawasi jika output yang diharapkan telah diketahui sebelumnya Contoh : Pengenalan pola , misal pada operasi AND Input Output 0 0 0 1 1 0 1 1 0 0 0 1
A
. S
UPERVISED LEARNING Jika terjadi perbedaan antara pola output hasil pembelajaran dengan pola target maka akan muncul error Jika nilai error masih besar, maka perlu banyak dilakukan pembelajaran lagi
B U
NSUPERVISED LEARNING Tidak memerlukan target output Tidak dapt ditentukan hasil yang seperti apakah yang diharapkan selama proses pembelajaran Selama proses pembelajaran,nilai bobot disusun dalam suatu range tertentu tergantung nilai input yang diberikan Tujuan adalah untuk mengelempokkan unit-unit yang hampir sama dalam satua area tertentu Cocok untuk pengelompokkan pola
P ENERAPAN T IRUAN J ARINGAN S YARAF
Model Hebb
• • • • Diusulkan oleh Donald Olding Hebb pada th 1949 Metode pengembangan dari metode McCulloch Pitts Menentukan bobot dan bias secara analitik (manual) Pembelajaran dilakukan dengan memperbaiki nilai bobot secara continue
Model Hebb
Perbaikan bobot diperoleh dengan cara
w i (baru) = w i (lama) + x i *y b(baru) = b(lama) + y
dengan: w i = bobot data input ke-i x i = input data ke-i y = output data b = nilai bias
ALGORITMA Inisialisasi semua bobot : wij =0; dengan i=1,2,...,n; j=1,2,...,m Untuk setiap pasangan input-output (s-t), lakukan langkah sbb: • • • set input dengan nilai sama dengan vektor input: x i = s i ; (i =1,2,..,n) Set output dengan nilai sama dengan vektor output: y j = t j ; (j =1,2,..,m) Perbaiki bobot: w ij = w ij + x i y i ; (i =1,2,..,n); dan (j =1,2,..,m)
K
ASUS
OR
X1
-1 -1 1 1
X2
-1 1 -1 1
t
-1 1 1 1 {-1,-1,-1} w 1 w 2 = 0 + (-1)(-1) = 1 = 0 + (-1)(-1) = 1 b = 0 + (-1) = -1 {-1,1,1} w 1 w 2 = 1 + (-1)(1) = 0 = 1 + (1)(1) = 2 b = -1 + (1) = 0 {1,-1,1} w 1 w 2 = 0 + (1)(1) = 1 = 2 + (-1)(1) = 1 b = 0 + (1) = 1 {1,1,1} w 1 w 2 = 1 + (1)(1) = 2 = 1 + (1)(1) = 2 b = 1 + (1) = 2
Akhir pembelajaran, diperoleh bobot akhir w 1 b=2 = 2, w 2 =2,
Pengujian :
x 1 = -1 dan x 2 = 1 , maka : y = (2)(-1) + ( 2) (1) + 2 = 2 Dengan fungsi bipolar , maka diperoleh output y =F(2) =1 karena 2 > 1 Sehingga y = t
M
ODEL
P
ERCEPTRON Digunakan untuk mengklasifikasikan suatu tipe pola tertentu Mengatur parameter2 melalui proses pembelajaran.
Pembelajaran utk mendapatkan bobot akhir dilakukan secara berulang sampai sdh tdk ada error (output = target) Namun jika msh ada error maka proses dihentikan maksimum epoh.
Epoh ; proses pengulangan utk melatih semua pasangan data.
A
LGORITMA
P
ELATIHAN Inisialisasi laju pembelajaran (α), nilai ambang ( 𝛉 ), bobot, bias Menghitung Menghitung Jika y ≠ target, lakukan update bobot dan bias Wi baru = Wlama + α.t.Xi
b baru = b lama + α.t
Ulang dari langkah 2 sampai tidak ada update bobot lagi
K
ASUS
OR
X1
0 0 1 1
X2
0 1 0 1
Inisialisasi:
α = 1, 𝛉 = 0,1 w = 0, b = 1
Input dan target berbentuk biner t
0 1 1 1 {0,0,0} y = 0 + (0.0 + 0.0) = 0 {0,1,1} y = 0 + (0.0 + 0.1) = 0 y ≠ t, maka update bobot dan bias W1baru = 0 + 1.1.0 = 0 W2baru = 0 + 1.1.1 = 1 bias baru = 0 + 1.1 = 1 {0,1,1} y = 1 + (0.0 + 1.1) = 2, output = 1 {1,0,1} y = 1 + (0.1 + 1.0) = 1, output = 1 {1,1,1} y = 1 + (0.1 + 1.1) = 2, output = 1
{0,0,0} y = 1 + (0.0 + 1.0) = 1 y ≠ t, maka update bobot dan bias W1baru = 0 + 1.1.0 = 0 W2baru = 1 + 1.1.0 = 1 bias baru = 1 + 1.1 = 2 {0,0,0} y = 2 + (0.0 + 1.0) = 2, output=1 y ≠ t, maka update bobot dan bias terjadi stagnasi walaupun bobot dan bias diupdate terus.
maka input dan target biner tdk cocok utk kasus OR.
K
ASUS
OR
X1
-1 -1 1 1
X2
-1 1 -1 1
t
-1 1 1 1 {-1,-1,-1} y = 0 + (0.-1 + 0.-1) = 0 y ≠ t, maka update bobot dan bias W1baru = 0 + 1.-1.-1 = 1 W2baru = 0 + 1.-1.-1 = 1 bias baru = 0 + 1.-1 = -1 {-1,-1,-1} y = -1 + (1.-1 + 1.-1) = -3, output = -1 {-1,1,1} y = -1 + (1.-1 + 1.1) = -1 y ≠ t, maka update bobot dan bias W1baru = 1 + 1.1.-1 = 0 W2baru = 1 + 1.1.1 = 2 bias baru = -1+ 1.1 = 0
y = 0 + (0.-1 + 2.1) = 2, ouput = 1 {1,-1,1} y = 0 + (0.1 + 2.-1) = -2 y ≠ t, maka update bobot dan bias W1baru = 0 + 1.1.1 = 1 W2baru = 2 + 1.1.-1 = 1 bias baru = 0+ 1.1 = 1 y = 1 + (1.1 + 1.-1) = 1 {1,1,1} y = 1 + (1.1 + 1.1) = 3, output=1
Pada akhir pembelajaran diperoleh w1=1, w2 = 1, dan b=1.
Pengujian data : Input : x1 = -1, dan x2 = 1 maka; y = 1 + (-1.1 + 1.1) = 1 y = t