Transcript Document 9654294

Subject
Year
: T0293/Neuro Computing
: 2009
Hopfield Net
Meeting 9
2
Konfigurasi Networks
Networks yang telah dibahas pada bab-bab terdahulu
semuanya bersifat ‘non-recurrent’.
John Hopfield telah banyak memberikan kontribusi tentang
teori dan aplikasi dari ‘recurrent system’.
Konsep yang brilian ini telah membuka cakrawala penelitian
neural networks. Banyak ilmuwan yang mengikuti jejak
untuk memahami lebih lanjut potensi dan kemampuan
sistem tersebut.
Gambar berikut adalah contoh ‘recurrent networks’ yang
terdiri dari dua layer
3
W11
IN
OUT1
W12
W1n
IN
W21
W22
OUT2
W2n
.
.
.
Wn1
Wn2
Wnm
OUTm
INm
4
Sistem Biner pada Hopfield Net
Fungsi F dalam Hopfield Net merupakan ‘threshold’
sederhana. Output dari neuron sama dengan 1 jika
jumlah (terbobot) dari output neuron-neuron lainnya
lebih besar dari ‘threshold’ Tj; Selainnya sama dengan 0.
Output tsb dapat dihitung sbb:
NETj =
 Wij OUTi + INj
Ij
OUTj = 1 jika NETj > Tj
OUTj = 0 jika NETj < Tj
OUTj tidak berubah jika NETj = Tj
5
Karena output dari neuron hanya mungkin bernilai 1 atau
0, status networks berupa bilangan biner, dimana setiap
bit menggambarkan signal OUT dari setiap neuron.
Stabilitas Networks
Seperti halnya networks lainnya, bobot diantara layer-layer
dalam hopfield Net membentuk matrik w.
Cohen dan Grossberg (1983) menunjukkan bahwa
‘recurrent networks’ akan menjadi stabil jika matrik
simetris dengan diagonal utama bernilai 0; yaitu jika Wij
= Wji untuk semua i  j, dan Wii = 0 untuk semua i.
6
Stabilitas network dapat dibuktikan dengan menggunakan
fungsi Lyapunov, dimana fungsi tersebut akan mencapai
nilai minimum dan berhenti.
Untuk Hopfield Net, nilai minimum dan fungsi Lyapunov
adalah sebagai berikut:
 2   W
E 1
ij
i
OUT i OUTj 
j

I j OUTj  Tj OUTj
j
Dimana:
E
= Energi network
Wij
= Bobot dari output neuron I ke input neuron j
OUTi = Output dari neuron j
Tj
= Threshold dari neuron j
7
Associative Memory
Memori manusia menunjukkan sifat-sifat asosiatif, yaitu
bahwa suatu bagian dari input dapat menghasilkan
memori / ingatan yang jauh lebih besar
‘Recurrent Networks’ membentuk ‘associative memory’.
Hopfield telah mengembangkan ‘associative memo-ry’
dimana outputnya kontinu, berkisar antara +1 dan –1
yang berkaitan dengan nilai biner 0 dan 1.
Memori dikodekan sebagai vektor biner dan disimpan
sebagai bobot dengan rumus berikut:
W i j   OUT i ,d OUT
m
d 1
8
j,d

dimana
m
= jumlah memori(vektor output)
d
= nomor memori
(vektor output yang diinginkan)
OUTi,d =komponen ke-i dari vektor output d
W dapat diekspresikan sbb :
W 
'
D
 j Di
i
dimana DI adalah vektor baris ke i
9