Anda di halaman 1dari 7

PERAMALAN CURAH HUJAN WILAYAH SEMARANG BARAT

DENGAN ALGORITMA RESILIENT BACKPROPAGATION

Wellie Sulistijanti

Abstract-
Tujuan dari penelitian ini untuk mengaplikasikan cara kerja jaringan syaraf tiruan dengan menggunakan
algoritma Resilient untuk peramalan curah hujan di wilayah kota Semarang barat dimana algoritma ini
dikembangkan dengan melakukan perubahan bobot dan bias jaringan sesuai dengan perilaku gradient dari setiap
iterasi pelatihan hanya dengan cara menggunakan tanda turunannya saja. Tanda turunan ini akan menentukan arah
perbaikan bobot-bobot, sehingga jumlah iterasi yang diperlukan untuk mencapai target yang diingginkan lebih
sedikit.
Penelitian ini menggunakan data curah hujan wilayah Sematang barat Januari 2003 s.d. Desember 2012
data musiman . Hasil simulasi dengan jumlah data pelatihan dan jumlah data pengujian 50%: 50%, 70%:30% dan
80%:20% diperoleh arsitektur terbaik algoritma Resilient untuk MSE pelatihan 0,1dengan jumlah data pelatihan
80% dan data pengujian 20% adalah 1 neuron input, 1 lapisan hidden dengan 18 neuron, dan 1 neuron output (1-
18-1) dengan parameter = 1,2 dan = 0,5 menunjukkan kecepatan waktu dan jumlah epoch yang lebih
banyak dibandingkan dengan

Keywords Algoritma Resilientmalan dengan prosesstik yang nil


1. PENDAHULUAN

P eramalan atau prediksi terhadap curah hujan di wilayah kota Semarang barat di tahun-tahun mendatang
dengan menggunakan data bersifat runtun waktu ( time series), yaitu data yang digunakan adalah data pada
tahun ini dan tahun tahun sebelumnya. Salah satu metode yang banyak digunakan adalah Seasonal
Autoregressive Integreted Moving Average (SARIMA) yang dikembangkan oleh Box dan Jenkins pada tahun

M
1976, dimana metode ini memiliki ketepatan yang cukup baik untuk data linier.
Dengan semakin berkembangnya ilmu pengetahuan maka berkembang pula beberapa metode baru. Salah
satu metode untuk memperkirakan curah hujan adalah dengan metode jaringan syaraf tiruan (Artificial Neural
Network). ANN mampu memperkirakandengan data timeseries non linier yang sulit diselesaikan dengan model
klasik. Salahsatu algoritma pada ANN adalah algoritma Resilient Backpropagation dikembangkan oleh Martin
Riedmilier (1993), dan banyak penelitian jaringan syaraf tiruan yang dikonsentrasikan pada pengembangan
algoritma ini, dimana pembelajaran digunakan sama seperti optimisasi data dari parameter jaringan, Chien-Sheng
Chen et al (2010) membandingkan Resilient Backpropagation dengan Gradient Descent dalam memprediksi lokasi
stasiun komunikasi, Christian Igel et al(2003) mengembangkan algoritma Resilient dengan menambahkan metode
weight, dan Gupta & Kang(2011) membandingkan Resilient Backpropagation dengan Clustering Fuzzy untuk
mencari modul deteksi rentan kesalahan dalam Sistem Open Source Software.
Bobot pada jaringan syaraf tiruan merupakan salah satu faktor penting agar jaringan dapat melakukan
generalisasi dengan baik terhadap data yang dilatih ke dalamnya, karena bobot pada jaringan syaraf tiruan
mempengaruhi besarnya sinyal yang akan keluar dari setiap neuron yang ada pada lapisan hidden dan lapisan
output. Algoritma Resilient adalah algoritma pembelajaran yaitu dengan melakukan perubahan bobot dan bias
jaringan sesuai dengan perilaku gradient di setiap epoch pelatihan, sehingga jumlah epoch yang diperlukan untuk
mencapai target yang diinginkan jauh lebih sedikit
2. LANDASAN TEORI

2.1. Neural Network


Artificial Neural Network atau Jaringan Syaraf Tiruan (JST) adalah sistem pemrosesan informasi yang
memiliki karakteristik mirip dengan struktur jaringan syaraf biologi, khususnya jaringan otak manusia. Keandalan
kinerja JST adalah polanya hubungan antara neuron (disebut arsitektur jaringan), metode untuk menentukan bobot
penghubung (disebut metode training atau learning atau algoritma) dan fungsi aktivasi.
Dalam jaringan syaraf tiruan fungsi aktivasi akan menentukan output suatu unit (mengubah sinyal input
menjadi sinyal output) yang akan dikirim ke unit lainnya. Fungsi aktivasi yang sering dipakai dalam jaringan
syaraf tiruan adalah Fungsi Signoid Biner. Fungsi signoid biner bernilai antara 0 dan 1, digunakan untuk jaringan
dengan nilai output antara 0 dan 1. Fungsi signoid biner dirumuskan sebagai

1
1 < < dengan f ' ( x) f ( x)(1 f ( x))
f ( x)
1 ex
2.2. Analisis Time series
Catatan tentang fenomena yang tidak teratur bervariasi dengan waktu disebut time series. Dalam analisis
time series, variasi deret waktu yang tidak teratur umumnya dinyatakan dengan model stokastik. Dalam beberapa
kasus sebuah fenomena random dapat dianggap sebagai realisasi dari model stokastik dengan sruktur perubahan
waktu .
Musiman didefinisikan sebagai suatu pola yang berulang-ulang dalam selang waktu yang tetap. Untuk data
yang stasioner, faktor musiman dapat ditentukan dengan mengidentifikasi koefisien autokorelasi pada dua atau tiga
time-lag yang berbeda nyata dari nol. Autokorelasi yang secara signifikan berbeda dengan nol menyatakan adanya
suatu pola dalam data. Untuk model ARIMA musiman, notasi umumnya sebagai berikut :
ARIMA (p,d,q) (P,D,Q)S (1)
dimana :
(p,d,q) = bagian yang tidak musiman dari model
(P,D,Q) = bagian yang musiman dari model
S = jumlah periode per musim
Persamaan model SARIMA atau ARIMA musiman (p,d,q) (P,D,Q,)s dengan rumus umum :
() ( ) = () ( ) (2)

dimana :
= (1 ) (1 )

() = (1 1 2 2 )

( ) = (1 1 2 2 )

() = (1 1 2 2 )

( ) = (1 1 2 2 )
dengan :
(1 - B)d = pembedaan non musiman
(1 BS)D= pembedaan musiman
= Parameter AR non musiman
= Parameter AR musiman
= Parameter MA non musiman
= Parameter MA musiman
S = Jumlah periode per musim
3. ALGORITMA RESILIENT BACKPROPAGATION
3.1. Diskripsi Algoritma Resilient
Algoritma Resilient melakukan perubahan bobot dan bias jaringan dengan melakukan proses adaptasi
langsung dari langkah bobot yang didasarkan pada informasi gradient lokal dari setiap iterasi pembelajaran,
sehingga jumlah iterasi yang diperlukan untuk mencapai target yang dingginkan lebih sedikit.
Untuk mengatasi hal tersebut diatas, diberikan ukuran dari perubahan bobot yang disebut perbaikan nilai
jk. Nilai perbaikan menyesuaikan perkembangan selama proses pembelajaran berdasarkan pada penglihatan lokal
terhadap fungsi error dengan aturan pembelajaran sebagai berikut:
E E
jk (m) = jk (m 1) + , jika (m) x (m 1) > 0

E E
jk (m) = jk (m 1) , jika (m) x (m 1) < 0

jk (m) = jk (m 1) , untuk yang lainnya

Dimana 0 < < 1 < +


Aturan adaptasi bekerja sebagai berikut: setiap turunan parsial dari bobot dan bias yang pada dua iterasi
berturutan berlainan tandanya menunjukkan bahwa perbaikan nilai yang terakhir terlalu besar dan algoritma telah

2
melompati lokal minimum, nilai perbaikan jk diturunkan dengan faktor . Jika dalam dua iterasi berurutan tanda
turunan tetap, nilai perbaikan dinaikkan dengan faktor + untuk mempercepat konvergensi pada daerah permukaan
error. Dan jika turunannya adalah nol, maka nilai pembaruan tetap sama. Setiap kali bobot yang berosilasi,
perbaikan bobot berkurang. Jika bobot terus berubah ke arah yang sama untuk beberapa iterasi, maka berakibat
kenaikan besarnya perubahan bobot.
Setelah perbaikan nilai untuk setiap bobot yang disesuaikan, perbaikan bobot mengikuti aturan yang
sederhana jika turunan positif (error meningkat) maka bobot turun dengan nilai nilai perbaikan, jika turunan
adalah negatif maka nilai perbaikan ditambahkan sebagai berikut:
E
() = jk (m) jika (m) > 0

E
() = +jk (m) jika (m) < 0 (3)

() = 0 untuk yang lainnya
wjk(m 1 ) wjk(m) w jk(m) (4)
Dimana wjk(m) adalah bobot diantara neuron j dan k dalam dua lapisan berurutan pada iterasi m, wjk(m+1)
adalah bobot baru.
3.2. Parameter Algoritma Resilient
Pada awal iterasi, semua nilai perbaikan jk telah diatur sebagai nilai awal 0 yang merupakan salah satu
dari dua parameter Resilient backpropagation. Untuk 0 secara langsung menentukan ukuran dari bobot pertama,
pilihan yang paling baik terjadi pada 0 = 0,1 . Bagaimanapun hasil berikutnya yang tampak pilihan dari
parameter ini tidak begitu penting, bahkan untuk nilai lebih besar atau lebih kecil dari 0 , konvergensi tetap
tercapai.
Untuk mencegah bobot menjadi besar , langkah-langkah menentukan bobot maksimum dengan nilai
ukuran update yang terbatas. Batas atas ditetapkan oleh parameter kedua Resilient backpropagation , maks .
Default batas atas diatur untuk maks = 50.
Pemilihan dari faktor-faktor penurunan dan faktor-faktor kenaikan + adalah sebagai berikut jika
lompatan sebuah nilai minimum, nilai update sebelumnya terlalu besar. Hal ini dikarenakan tidak diketahuinya
informasi gradient berapa banyak minimum terlewati, secara rata-rata akan menghasilkan nilai perbaikan yang
sangat baik yaitu = 0,5. Faktor kenaikan + harus cukup besar untuk untuk memungkinkan cepat mengalami
kenaikan kenilai baru di daerah yang kecil fungsi errornya, di sisi lain proses pembelajaran dapat menjadi jauh
terganggu, jika faktor kenaikan terlalu besar menyebabkan perubahan terus menerus dari arah langkah bobot, dari
semua percobaan riedmiller pilihan + = 1,2 memberikan hasil yang sangat baik tergantung masalah yang
diujikan. Sedikit variasi nilai ini tidak meningkatkan atau memperburuk nilai waktu konvergensi. Jadi untuk
mendapatkan pilihan parameter yang sederhana diputuskan untuk terus memperbaiki kenaikan/penurunan
parameter + = 1,2 dan = 0.5.
3.3 Tahapan Algoritma Resilient
Sama seperti pada algoritma Gradient Descent, algoritma Resilient melaksanakan dua tahap pembelajaran
yaitu tahap pembelajaran feedforward untuk mendapatkan error output dan tahap backward untuk mengubah
nilai bobot.
Langkah 0 Pemberian insialisasi bobot (diberi nilai kecil secara acak)
Langkah 1. Jika kondisi akhir iterasi belum terpenuhi, lakukan langkah 2-9
Langkah 2. Untuk masing masing pasangan data pelatihan (training data) lakukan langkah 3 hingga 8
Feed Forward
Langkah 3.Tiap unit input (Xi, i-1,2,...,n) menerima sinyal input xi dan sinyal tersebut disebarkan ke semua unit
pada lapisan hidden
Langkah 4.Tiap lapisan hidden (Zj,j=1,2,,p) menjumlahkan bobot sinyal input

n

z _ in j v o j x i v ij (14)
i 1

menggunakan fungsi aktifasi untuk menghitung sinyal output z j f ( z _ in j )


dan mengirimkan sinyal ini ke setiap unit output
Langkah 5. Tiap unit output (Yk, k=1,..,m) menjumlahkan bobot sinyal masuk
p

y _ ink wok z w
j 1
j jk
(5)

menggunakan fungsi aktifasi untuk menghitung sinyal output


yk f ( y _ ink ) (6)

3
Galat dari backpropagation
Langkah 6. Tiap unit output menerima pola yang sesuai dengan pola pelatihan input dan dihitung errornya:
k (t k y k ) f ( y _ in k ) (7)
menghitung bobot terkoreksi (digunakan untuk memperbarui wjo),
w jk k z j (8)
menghitung bias terkoreksi
wok k (9)
dan mengirim k ke unit pada lapisan dibawahnya
Langkah 7: Tiap unit hidden (Zj,j=1,2,,p) menjumlahkan delta input
m
_ in j . k 1
k w jk
(10)

dikalikan dengan derivatif fungsi aktivasi untuk menghitung error


j _ in j f ( z _ in j ) (11)
menghitung koreksi bobot vij j xi (12)
menghitung koreksi bias
v0 j j (13)

Memperbaiki bobot dan bias


Langkah 8: Tiap unit output (Yk, k=1,..,m) memperbaiki bobot dan bias (j-=0,,p)
w jk (baru) w jk (lama) w jk
Tiap unit hidden (Zj, j=1,..,p) memperbaiki bobot dan bias (i=0,,n)
vij (baru) vij (lama) vij
Langkah 9: Uji kondisi pemberhentian (akhir iterasi)

Setelah dilakukan perubahan bobot dan bias untuk setiap pola data dilakukan langkah di bawah ini
Hitung gradient E (m), E (m) E (m), E (m) , yaitu perubahan bobot dan bias setiap pola pada
w jk
w 0k
v ij
v 0j

epoch ke t, untuk setiap bobot dan bias lakukan langkah-langkah berikut:



Jika ( 1) () > 0 maka

ij (m) = minimum (ij ( 1) x + , maks )
E
vij (m) sign( (m)) ij (m)
vij
( + 1) = () + vij (m) (14)
E E
(m 1) (m) (15)
v ij v ij

Jika ( 1) () < 0

maka ij (t)= maksimum (ij (m 1) x , min )


E
vij (m) ( (m)) ij (m)
vij
vij (m 1) vij (m) vij (m 1) (16)

( 1) = 0 (17)


Jika ( 1) () = 0

E
maka () = sign (m)ij (m)

( + 1) = () + () (18)

4

( 1) = () (19)

Hitung MSE

4. Studi Kasus dan Pembahasan


Pada penelitian ini, data yang digunakan yaitu data curah hujan wilayah Semarang barat pada tahun Januari
2003 Desember 2012, terlihat bahwa data tersebut berfluktuasi, mengandung faktor musiman dan ada
kecenderungan mengalami tren.
Arsitektur jaringan terbaik algoritma Resilient untuk peramalan curah hujan wilayah Semarang barat
dimana data yang digunakan sebanyak 80% untuk training dan 20% untuk data testing dengan MSE 0,1 adalah
jaringan dengan 3 neuron pada lapisan input , 1 lapisan hidden dengan 18 neuron dan 1 neuron pada lapisan
output, atau (3,18,1 )dengan parameter = 1,2 dan = 0,5.
Hasil simulasi peramalan dengan menggunakan algoritma Resilient dirangkum pada table 4.1. Dari
parameter tujuan yang ditetapkan dalam pelatihan jaringan syaraf yaitu nilai MSE sebesar 0.1 dihasilkan besaran
MSE pengujian yang berbeda beda.

Simulasi peramalan menggunakan 3 perbedaan dalam perbandingan jumlah data pelatihan dan jumlah data
dalam pengujian yang pertama menggunakan 50% data pelatihan dan 50% data pengujian, ke dua menggunakan
jumlah data pelatihan 70% dan jumlah data pengujian 30% dan yang ke tiga adalah jumlah data pelatihan 80% dan
jumlah data pengujian 20%. Hasil simulasi diperoleh bahwa untuk jumlah data training dan data testing sebesar
50%:50% nilai MSE pengujian yang paling kecil sebesar 0,1503 adalah di hiden layer sebanyak 15. Jumlah data
training dan data testing sebesar 70%:30% nilai MSE pengujian yang paling kecil sebesar 0,1942 adalah di hiden
layer sebanyak 14. Dari hal diatas terlihat semakin banyak hiden layer maka waktu yang lebih cepat dan epoch
yang diperlukan semakin besar.
Untuk data training 80% dan data testing 20% dimulai pada hiden layer 15 karena pada hiden layer 14
membutuhkan waktu dan epoch yang lama, sehingga untuk waktu yang sedikit dibutuhkan jumlah hiden layer
yang besar, hal ini karena jumlah data training lebih banyak sehingga diperlukan waktu lebih cepat dan epoch
lebih banyak dalam pelatihan untuk menghasilkan nilai MSE 0,1.
Pemodelan dengan jaringan syaraf tiruan memiliki tingkat akurasi yang lebih baik dibandingkan dengan
pemodelan peramalan klasik. Dan algoritma Resilient mempunyai kemampuan mencapai MSE pelatihan 0,1
seperti terlihat pada grafik 4.2 berikut

5
Grafik 4.2 Plot data target - output pelatihan

Pada plot data jaringan syaraf tiruan (3,18,1) dengan MSE 0,1 gambar 4.2 pada proses pelatihan terlihat bahwa
nilai output mendekati nilai target, hal ini menunjukkan kecilnya nilai deviasi antara target dan output untuk data
pelatihan
Untuk peramalan curah hujan wilayah Semarang barat menggunakan metode klasik yaitu SARIMA
diperoleh model ARIMA(0,1,1)(0,1,1)12 dengan persamaan

= 1 + 12 13 + 0,7885 1 0,8619 12 + 0,050713

5. Kesimpulan
Berdasarkan penelitian dan pembahasan, maka dapat diambil kesimpulan untuk data curah hujan wilayah
Semarang barat tahun 2003-2012 sebagai berikut:
1. Untuk nilai MSE pelatihan yaitu 0,1 algoritma Resilient dengan arsitektur jaringan 1 unit input, 18 unit neuron
pada lapisan hidden dan 1 unit output (1-18-1) dengan 80% data pelatihan dan 20% data pengujian diperoleh
waktu relatif cepat yaitu 5.6 detik, 1053 epoch dan MSE testing 0,1503 dicapai dengan parameter = 1,2 dan
= 0,5
2. Dari simulasi algoritma Resilient dengan jumlah data pelatihan dan data pengujian, 50%:50%, 70%:30%,
80%:20%, jika jumlah data pelarihan lebih banyak yaitu 80% membutuhkan waktu yang lebih sedikit dan
epoch yang lebih banyak dibandingkan dengan jumlah data pelatihan yang lain
DAFTAR PUSTAKA
Al_Naima, F.M., Al-Timemy, A.H., 2010, Resilient back Propagation Algorithm for Breast Biopsy Classification
Based on Artificial neural Networks, Computational Intelligence and Modern Heuristics, Edited by Al-Dahoud
Ali, Publisher: IN-TECH, Vienna, Austria
Chen, C., and Lin, J., 2011, Appliying Rprop neural Network for the Prediction of the Mobile Station Location,
Sensors, 11(4):4207-4230.
Chong, E.K.P dan Zak, S.H., 2001, An Introduction To Optimization, Second Edition, John Wiley & Sons Inc,
New York
Fausett, L., 1994, Fundamental of Neural Network; architectures, algoritms and applications, Prentice-Hall Inc.,
Englewoods Cliffs, New Jersey
Febrianty D., Dewanto, Aradea, 2007, Analisis jaringan syaraf tiruan RPROP untuk mengenali pola
elektronikardiografi dalam mendeteksi penyakit jantung koroner, Seminar Nasional Aplikasi Teknologi
Informasi, Yogyakarta
Gupta, K. and Kang, S. 2011, Implementation of Resilient backpropagation & fuzzy clustering based approach
for finding fault prone modules in open source software systems, International Journal of Research in
Engineering and Technology (IJRET),1, no.1:38-43.
Hamilton JD. 2001. Time Series Analisis I, Princeton University Press, New Jersey
Igel, C., and Husken, M., 2003, Emperical Evaluation of the Improved Rprop Learning Algoritm.
Neurocomputing, 50: 105-123.
Makridakis, Wheelwright, dan McGee, 1999, Metode dan Aplikasi Peramalan, (diterjemahkan oleh Hari Suminto),
Jilid Satu, Edisi Kedua, Penerbit Binarupa Aksara, Jakarta
Riedmiller, M., 1994, Rprop- Description and Implementation Detail , University of Karlsruhe, Tech. Rep.
Riedmiller, M., 1994, Advanced Supervised Learning in Multi layer Perceptrons-From Backpropagation to
Adaptive Learning Algoritms, Karlsruhe:www.ira.uka.de.
6
Riedmiller, M., and Braun. H., 1992. A Direct Adaptive Method for Faster Backpropagation Learning: The
RPROP algorithm, Proc. IEEE International Conference on Neural Network (ICNN)(Ruspini,H., (Ed.), 586-
591, San Fransisco
Rumelhart, D.E. Hinton, G.and Williams, R.J., 1986, Learning Internal Representations by Back-propagationerror
Errors, Parallel Distributed Processing: Explorations in Microstructure of Cognition, MIT Press,
Cambridge,M.A, 1:318-362.
Samaringhe, S., 2006, Neural Networks For Applied Sciences and Engineering From Fundamental to Compleks
Pattern Recognition, Auerbach Publication Taylor & Francis Group.
Sorjamaa, A., Hao, J., Reyhani, N., Ji, Y.and Lendasse A., 2007 , Methodology for long-term prediction of time
series, Neurocomputing, 70: 2861-2869.
Warsito, B. 2009, Kapita Selekta Statistika Neural Network, BP UNDIP Semarang
Wei, W.W.S., 1994, Time Series Analysis Univariate and Multivariate Methods, Addison-Wesley Publishing
Company USA
Wilde, I.F., 2009, Neural Network, Mathematics Departement, Kings College London