Algoritma JST Backpropagation

Arsitektur JST Backpropagationp p gContoh Arsitekstur JST Backpropagation dengan:

n unit masukkanp unit layer tersembunyim unit masukkan

1

YZ

1

V10

V20Vp0

W10W20

Wm0

W Y1

Y

Z1X1 V11

Vp1V21

V12

W11

Wm1

W21

W12Y2Z2X2

Vm2

V22

V1n

V

Wm2

W22

W1p

W2p

YmZpXn Vpn

V2m

Wmp

W2p

Layer Masukkan Layer tersembunyi Layer Keluaran

Fungsi AktifasiFungsi AktifasiFungsi aktifasi yang digunakan pada backpropagation yaitu sigmoid binerg y g g p p p g y gdan sigmoid bipolar

Fungsi AktifasiFungsi Aktifasi

Alg it P l tih B k g tiAlgoritma Pelatihan BackpropagationAlgoritma Pelatihan Backpropagation dengan satu layer tersembunyi dandengan menggunakan fungsi aktivasi sigmoid binerdengan menggunakan fungsi aktivasi sigmoid biner

1

Y1Z1

1

X1

V10V20Vp0V11

W10W20Wm0

W11

Y2Z2

X1

X2

11

Vp1V21

V12

Vm2

V22

V1n

Wm1

W2

1W12

Wm2

W22

W1p

Langkah 0 : Inisialisasi semua bobot dengan bilangan acak kecil.

L k h 1 Jik k di i h i b l hi l k k

YmZpXn

1n

Vpn

V2m

W1p

Wmp

W2p

Langkah 1 : Jika kondisi penghentian belum terpenuhi, lakukanlangkah 2 sampai dengan 8.

Langkah 2: Untuk setiap pasang data pelatihan, lakukan langkah 3 g p p g p , gsampai dengan 8

Alg it P l tih B k g tiAlgoritma Pelatihan Backpropagation1 1

V10V20VW1W20

WY1

Y2

Z1

Z2

X1

X2

V20Vp0V11

Vp1V21

V12V22

0Wm0

W11

Wm1

W2

1W12

WW22

Fase I: Propagasi Maju

YmZpXn

Vm2

V1n

Vpn

V2m

Wm222

W1p

Wmp

W2p

Fase I: Propagasi Maju

Langkah 3

Tiap unit masukkan menerima sinyal dan meneruskan ke unit tersembunyi

Langkah 4Langkah 4

Hitung semua keluaran di unit tersembunyi (Zj):

Alg it P l tih B k g tiAlgoritma Pelatihan Backpropagation1 1

V10V20VW1W20

WY1

Y2

Z1

Z2

X1

X2

V20Vp0V11

Vp1V21

V12V22

0Wm0

W11

Wm1

W2

1W12

WW22

L k h 5

YmZpXn

Vm2

V1n

Vpn

V2m

Wm222

W1p

Wmp

W2p

Langkah 5

Hitung semua jaringan di unit keluaran (yk)

Alg it P l tih B k g tiAlgoritma Pelatihan Backpropagation1 1

V10V20VW1W20

WY1

Y2

Z1

Z2

X1

X2

V20Vp0V11

Vp1V21

V12V22

0Wm0

W11

Wm1

W2

1W12

WW22

Fase II : Propagasi Maju

YmZpXn

Vm2

V1n

Vpn

V2m

Wm222

W1p

Wmp

W2p

p g jLangkah 6Hitung factor δ unit keluaran berdasarkan kesalahan setiap unit keluaran yk (k=1,2,3….)

δ =(t y ) f ’(y net )= (t y ) y (1 y )δk=(tk-yk) f (y_netk)= (tk-yk) yk (1-yk)

δk meruapakan unit kesalahan yang akan dipakai dalam perubahan bobot layer dibawahnya (lankah 7)

Hitung suku perubahan bobotWkj dengan laju perubahan α

∆wkj= α δk zj ; k=1,2,3,…,m ; j=0,1,2,…,p

Algoritma Pelatihan Backpropagation1

Y1Z1

1

X1

V10V20Vp0V11

W1

0

W20Wm0

W11

Y2

1

Z2

X1

X2

11

Vp1V21

V12

Vm2

V22

V1

11

Wm1

W2

1W12

Wm2

W22

W1

Langkah 7

Hitung factor δ unit tersembunyi berdasarkan kesalahan di setiap unit tersembunyi zj (j=1,2,3,…,p)

YmZpXn

V1n

Vpn

V2m

W1p

Wmp

W2p

g y p y j j p

Faktor unit tersembunyi

δj = δ_netj f ’(z_netj)= δ_netj zj (1-zz)

Hitung suku perubahan bobot vji

∆vji=α δjxi ; j=1,2,…,p ; i=0,1,2,…,n

Alg it P l tih B k g tiAlgoritma Pelatihan Backpropagation1 1

V10V20VW1W20

WY1

Y2

Z1

Z2

X1

X2

V20Vp0V11

Vp1V21

V12V22

0Wm0

W11

Wm1

W2

1W12

WW22

Fase III : Perubahan Bobot

YmZpXn

Vm2

V1n

Vpn

V2m

Wm222

W1p

Wmp

W2p

Fase III : Perubahan Bobot

Langkah 8

Perubahan bobot garis yang menuju unit keluaran

w (baru)= w (lama) + ∆wwkj (baru)= wkj (lama) + ∆wkj

Perubahan bobot garis yang menuju ke unit tersembunyi

Vji (baru)= vji (lama) + ∆vji

Laju PemahamanLaju PemahamanLaju pemahaman di simbolkan dengan αLaju pemahaman menentukan lama iterasiNilai dari α diantara 0 sd 1Semakin besar nilai α semakin cepat lama iterasiAkan tetapi jika terlalu besar akan merusak pola,

hi j t k l bih l it isehingga justru akan lebih lama iterasinya

EpochEpochEpoch yaitu satu siklus pelatihan yang melibatkan semua pola

Misal jika suatu arsitektur JST terdapat 4 pola masukkan dan 1 target, maka pelatihan 4 pola masukkan tersebut adalah 1 epochepoch