Algoritma Cuckoo Search dan Backpropagation

Levenberg-Marquardt untuk Memprediksi Cuaca di

Kota Palembang
M.Hakim Amransyah, Rifkie Primartha, Kanda Januar Miraswan
Jurusan Teknik Informatika Fakultas Ilmu Komputer Universitas Sriwijaya, Indralaya
Jln. Raya Palembang-Prabumulih Km.32 Indralaya, Ogan Ilir, Sumatera Selatan
e-mail : m.hakim.amransyah.hakim@gmail.com

Intisari— Prediksi cuaca merupakan kegiatan yang berhubungan dengan penerapan ilmu pengetahuan dan teknologi untuk
memperkirakan keadaan atmosfer di masa yang akan datang pada lokasi tertentu. Pada penelitian ini, algoritma pelatihan jaringan
saraf tiruan BPLM(backpropagation levenberg marquardt) digunakan untuk membangun sebuah model prediksi cuaca, namun
metode ini seringkali mengalami kendala dimana solusi yang dihasilkan tidak dapat mencapai solusi yang optimum. CS(cuckoo
search) yang merupakan algoritma optimasi dan memiliki kemampuan dalam pencarian global digunakan untuk mengatasi
permasalahan pada BPLM. Prediksi cuaca dilakukan dengan membagi kelas prediksi menjadi 5 kategori yaitu hujan sangat ringan,
ringan, sedang, lebat dan sangat lebat. Data yang digunakan bersumber dari BMKG dan merupakan data unsur cuaca harian di kota
Palembang. Hasil pengujian didapatkan bahwa metode CSLM(cuckoo search backpropagation levenberg marquardt) menghasilkan
akurasi rata-rata validasi sebesar 69,82% dan akurasi rata-rata pengujian sebesar 70,28% sedangkan metode BPLM menghasilkan
akurasi rata-rata validasi sebesar 59,58% dan akurasi rata-rata pengujian sebesar 63,63%.
Kata kunci— prediksi cuaca, backpropagation levenberg-marquardt, cuckoo search.

Abstract— Weather prediction is an activity related to the application of science and technology to estimate future atmospheric
conditions at certain locations. In this research, BPLM(backpropagation levenberg marquardt) artificial neural network training
algorithm is used to build a weather prediction model, but this method often has problems where the resulting solution cannot reach
the optimum solution. CS(cuckoo search) which is an optimization algorithm and has the ability to search globally is used to overcome
problems in BPLM algorithm. Weather prediction is done by dividing the prediction class into 5 categories, namely very light, mild,
medium, heavy and very heavy rain. The data used is sourced from BMKG and is a daily weather element data in the city of
Palembang. The test results showed that CSLM(cuckoo search backpropagation levenberg marquardt) method produced an average
accuracy of validation 69,82% and average accuracy of testing 70,28% while the BPLM method produced an average accuracy of
validation 59,58% and average accuracy of testing 63,63%.
Keywords— weather prediction, backpropagation levenberg-marquardt, cuckoo search.

bervariasi [1]. Hal ini membuat jaringan saraf tiruan seringkali

I. PENDAHULUAN
Data mining merupakan proses untuk menemukan
pengetahuan baru dari sekumpulan data yang telah ada
sebelumnya. Proses pada data mining ini melibatkan
sekumpulan data historis mengenai suatu fenomena atau
kejadian tertentu. Data fenomena alam atau data cuaca
merupakan salah satu data yang dapat digunakan untuk
menemukan pola pengetahuan di dalamnya. Pengetahuan
yang terdapat pada pola data cuaca dapat digunakan untuk
mengetahui trend atau pola cuaca di suatu daerah tertentu
sehingga memudahkan kita dalam mengatur aktivitas dalam
kegiatan sehari-hari.
Prediksi cuaca merupakan kegiatan yang berhubungan
dengan penerapan ilmu pengetahuan dan teknologi untuk
memperkirakan keadaan atmosfer di masa yang akan datang
pada lokasi tertentu [3]. Semenjak data cuaca memiliki
kecenderungan tidak linier dan memiliki pola yang tidak
beraturan, jaringan saraf tiruan dianggap metode yang baik
untuk menemukan pola hubungan dari beberapa entitas yang
digunakan memprediksi cuaca.
Algoritma pembelajaran jaringan saraf tiruan yang
umumnya digunakan untuk melakukan prediksi cuaca adalah
algoritma backpropagation [4]. Namun algoritma ini memiliki
kekurangan dikarenakan sulitnya pelatihan jaringan saraf
tiruan untuk mencapai titik konvergen dan tidak berhasil
menghasilkan solusi yang optimum [9]. Kombinasi algoritma
backpropagation (BP) dan levenberg marquardt (LM) dapat
digunakan untuk mengatasi permasalahan pada algoritma
backpropagation [7]. Namun kombinasi algoritma ini masih
belum bisa mengatasi permasalahan sulitnya mencapai solusi
optimum, oleh karena itu dibutuhkan algoritma optimasi untuk
mengatasi permasalahan ini [2]. Salah satu algoritma optimasi
yang dapat digunakan untuk meningkatkan performa jaringan
saraf tiruan backpropagation levenberg marquardt adalah
algortima cuckoo search (CS).
Berdasarkan uraian di atas maka dalam penelitian ini,
peneliti akan menggunakan kombinasi algoritma CS-LM
(cuckoo search backpropagation levenberg marquardt) untuk
memprediksi cuaca di kota Palembang. Dengan kombinasi
dari algoritma ini diharapkan akan meningkatkan performa
pelatihan jaringan saraf tiruan sehingga menghasilkan akurasi
yang lebih baik.
II. BACKPROPAGATION LEVENBERG-MARQUARDT
Algoritma levenberg marquardt merupakan pengembangan
dari algoritma backpropagation. Pada algoritma
backpropagation perubahan bobot menggunakan pendekatan
turunan gradient secara langsung sedangkan algoritma ini
menggunakan pendekatan matrik hesian [6]. Adapun
pendekatan yang digunakan dalam penerapan algoritma ini
adalah sebagai berikut.
1. Membentuk matriks jacobian.
Matriks jacobian berisikan perkalian antara faktor
kesalahan pada neuron dengan output pada neuron di
bawahnya dibagi dengan error keseluruhan jaringan
terhadap sebuah pola dataset.
J= (1)
2. Menentukan nilai gradient.
Nilai gradien ditentukan dengan mengalikan antara
matriks jacobian yang di transpose dengan error rata -
rata pada jaringan. Nilai e dapat berupa matriks dengan
kolom 0 yang berisikan error rata-rata jaringan untuk
setiap dataset.
g = Jt e (2)
3. Membentuk matriks hessian.
Matriks hessian merupakan perkalian antara matriks
jacobian yang telah di transpose dengan matriks
jacobian sebelum di transpose.
H =Jt J (3)
4. Menghitung perubahan bobot.
Matriks perubahan bobot menggunakan perhitungan
nilai learning rate( ) dan matriks identitas(I).
(4)
5. Memperbarui bobot.
Jumlahkan nilai bobot yang lama dengan ∆x untuk
mendapatkan bobot baru.
(5)
III. CUCKOO SEARCH
Algoritma cuckoo search adalah suatu algoritma optimasi
yang terinsipirasi dari perilaku burung cuckoo yang memiliki
sifat parasit kuat dengan burung lain dimana burung jenis ini
meletakkan telur nya ke sarang burung spesies lain [8]. Tujuan
dari perilaku burung cuckoo ini adalah agar telur tersebut
dapat di rawat oleh induk pemilik sarang tanpa diketahui oleh
induk burung tersebut bahwa itu bukanlah telurnya. Sifat ini
didukung oleh kemampuan dari burung cuckoo untuk
menghasilkan sebuah telur yang memiliki rupa bentuk
ataupun warna yang menyerupai telur burung yang memang
benar-benar telur dari induk pemilik sarang tersebut. Apabila
telur burung cuckoo menetas terlebih dahulu maka insting
pertama yang dilakukannya adalah menjatuhkan telur burung
lain yang merupakan penghuni asli sarang tersebut.
Ketika menghasilkan sebuah solusi baru dari solusi yang
dipilih secara acak, algoritma cuckoo search menggunakan
metode levy flight. Levy flight merupakan bentuk lain dari
random walk. Random walk adalah suatu proses acak yang
berisikan serangkaian langkah random yang ber-urutan.
Sn = Sn-1 + Xn (6)
Solusi yang baru (Sn) yang dihasilkan merupakan
penjumlahan antara solusi yang teprilih secara acak (Sn-1) dan
nilai acak yang diambil dari distribusi acak. Apabila distribusi
yang digunakan ialah distribusi levy maka random walk jenis
ini dinamakan levy flight.
IV. CUCKO SEARCH-BACKPROPAGATION LEVENBERG-
MARQUARDT
Untuk meningkatkan performa dari jaringan saraf tiruan,
algoritma cuckoo search digunakan untuk mememilih bobot
optimal pada jaringan sebelum di mulainya proses pelatihan
dengan backpropagation levenberg-marquardt. Pada
kombinasi algoritma ini, setiap solusi atau sarang dari cuckoo
merepresentasikan kemungkinan solusi terbaik yang dalam hal
ini merupakan seluruh bobot dan bias pada jaringan pada
suatu ruang pencarian yang telah ditentukan. Mekanisme kerja
dari kombinasi algoritma ini dapat ditunjukkan pada gambar
berikut.
Gambar 1. Kombinasi CS dan LM
Pada gambar 1. dapat dilihat bahwa setiap siklus pencarian
bobot optimal pada algoritma cuckoo search akan melibatkan
proses pelatihan menggunakan algoritma BPLM
(backpropagation levenberg marquardt). Hasil dari pelatihan
menggunakan BPLM ini kemudian digunakan untuk
memprediksi data validasi dan diperoleh nilai fitness nya
dalam bentuk akurasi. Siklus ini akan diulangi sampai kondisi
berhenti cuckoo search terpenuhi. Di akhir pelatihan, bobot Untuk parameter algoritma cuckoo search, maksimum
yang paling optimal akan diperoleh dan dapat digunakan generasi yang digunakan berjumlah 20 generasi, proabability
untuk memprediksi cuaca menggunakan data uji. rate bernilai 0,2 dan jumlah populasi ditentukan melalui
proses validasi yang melibatkan kombinasi 5,10,15 dan 20
populasi. Kriteria proses validasi yang optimal adalah akurasi
V. METODOLOGI PENELITIAN yang didapatkan terhadap data validasi.
A. Sumber Data
Data yang digunakan pada penelitian ini adalah jenis data D. Pengujian Penelitian
sekunder yang bersumber dari data online Badan Meterologi Pengujian peneltian dilakukan dengan membandingkan
Klimatologi dan Geofisika (BMKG) berupa data unsur cuaca akurasi yang didapatkan selama proses validasi dan akurasi
harian untuk wilayah kota Palembang. Data yang digunakan beserta fmeasure yang didapatkan pada proses pengujian baik
terdiri dari 5 jenis unsur cuaca harian di kota Palembang yang yang menggunakan metode backpropagation levenberg
terdiri dari suhu minimum, suhu rata-rata, kelembaban rata- marquardt saja maupun yang menggunakan metode cuckoo
rata, kecepatan angin terbesar dan curah hujan. Data yang search-backpropagation levenberg marquardt.
diperoleh kemudian akan dibagi menjadi data latih, data
validasi dan data uji. Data latih yang digunakan merupakan
data unsur cuaca harian selama 21 tahun (1990 – 2011). Data VI. HASIL PERCOBAAN
latih yang diperoleh tidak seluruh nya digunakan. Data latih Proses validasi untuk menentukan jumlah lapisan
dilakukan teknik oversampling dan undersampling untuk tersembunyi menggunakan algoritma pelatihan BPLM dapat
mengatasi kelas data yang bersifat imbalance [5]. Jumlah total dilihat pada tabel I.
data latih yang diperoleh sebanyak 863 data dengan 208 data
untuk kategori hujan sangat ringan, ringan, sedang dan lebat, TABEL I
PROSES VALIDASI JUMLAH NEURON PADA LAPISAN TERSEMBUNYI
31 data untuk kategori hujan sangat lebat. Adapun data
validasi dan data uji menggunakan data real tanpa dilakukan
PERCOBA AKURASI VALIDASI (%)
oversampling dan undersampling dimana data validasi tahun
AN KE- 3NEURON 8 NEURON 9 NEURON 12 NEURON
2012 terdiri dari 335 data dan data uji menggunakan data
tahun 2013 dan 2014 terdiri 654 data. 1 61,49 51,64 60,6 55,82
2 60 57,31 54,63 56,72
B. Prapengolahan Data 3 63,28 58,51 60,9 57,91
Data yang diperoleh selanjutnya dilakukan proses 4 62,39 54,63 56,72 56,72
prapengolahan terlebih dahulu. Pada peneltian ini terdapat 3
tahap prapengolahan data yang dilakukan yaitu pembersihan 5 58,51 57,31 60,9 62,69
data, diskretisasi data dan normalisasi data. Pembersihan data 6 58,51 57,01 58,21 60,3
dilakukan untuk menghilangkan data yang bersifat outlier. 7 60 60 60,9 58,21
Data unsur cuaca yang digunakan memiliki 2 nilai yang 8 56,72 60,9 57,31 59,7
bersifat outlier yakni bernilai 8888 (data tidak terukur) dan
9 56,42 57,01 57,91 60
9999 (data tidak ada). Atribut curah hujan yang merupakan
label pada baris data akan dilakukan disctretization 10 58,51 58,51 59,1 56,72
berdasarkan kriteria hujan WMO(world meterological MINIMUM 56,42 51,64 54,63 55,82
organization) sehingga nilai dari atribut curah hujan hanya MAKSIMUM 63,28 60,9 60,9 62,69
akan terdiri dari 5 kelas yaitu hujan sangat ringan, hujan
ringan, hujan sedang, hujan lebat dan hujan sangat lebat. RATA-RATA 59,58 57,28 58,71 58,47
Tahap selanjutnya adalah normalisasi data. Tahap normalisasi
data ialah mentransformasikan data dalam range 0 dan 1. Proses validasi selanjutnya adalah menentukan jumlah
Range normalisasi ini dipilih berdasarkan fungsi aktivasi populasi sarang cuckoo. Proses validasi ini melibatkan jumlah
neuron yang digunakan yaitu sigmoid biner yang memiliki lapisan tersembunyi yang optimal hasil dari proses validasi
range 0 dan 1. pada tabel I. Proses validasi ini menggunakan algoritma
pelatihan CSLM. Hasil dari proses validasi ini dapat dilihat
C. Kriteria Pengujian pada tabel II.
Jumlah neuron pada lapisan tersembunyi yang digunakan
akan ditentukan melalui proses validasi. Percobaan akan TABEL II
melibatkan kombinasi 3, 8 ,9 dan 12 neuron pada lapisan PROSES VALIDASI JUMLAH POPULASI SARANG CUCKOO
tersembunyi. Untuk learning rate, nilai yang digunakan
PERCOB AKURASI VALIDASI (%)
sebesar 0,2. Proses pelatihan akan dihentikan apabila epoch
AAN KE- 5 Populasi 10 Populasi 15 Populasi 20 Populasi
telah mencapai jumlah maksimum yang ditentukan yakni
sebesar 250 kali epoch dan apabila telah mencapai batas 1 65.07 65.07 70.45 70.45
minimum MSE yang telah ditentukan yakni sebesar 0,0001. 2 65.07 69.85 69.25 70.15
 3 68.66 69.55 69.55 69.85 Hujan Lebat 0 0 0 0
4 69.55 70.75 70.15 69.85 Hujan Sangat
69.55 69.55 69.85 69.25 0 0 0 0
5 Lebat
6 69.55 71.34 70.15 69.85
7 70.45 67.76 69.85 69.85 Dari 5 kategori cuaca yang terdiri dari hujan sangat ringan,
hujan ringan, hujan sedang, hujan lebat dan hujan sangat lebat
8 70.15 71.64 69.85 69.55
metode BPLM dan CSLM hanya mampu mengenali 3
9 65.97 70.45 69.55 69.85 kategori cuaca. Hal ini disebabkan karena jumlah kelas yang
10 66.27 69.85 69.55 69.55 tidak merata pada data validasi dan data uji yang digunakan
MINIMUM 65,07 65,07 69,25 69,25 walaupun data latih yang digunakan memiliki keseimbangan
MAKSIMUM 70,45 71,64 70,45 70,45 kelas yang lebih baik. Data validasi menggunakan data cuaca
RATA-RATA 68,02 69,58 69,82 69,82 harian selama tahun 2012 dan data uji menggunakan data
cuaca tahun 2013 dan 2014. Jumlah kelas kategori cuaca
untuk tiap-tiap data diperlihatkan grafik pada gambar 2 seperti
Hasil dari proses validasi didapatkan bahwa jumlah neuron
berikut ini.
pada lapisan tersembunyi yang optimal berjumlah 3 neuron
sedangkan jumlah populasi sarang cuckoo berjumlah 20 dan
15 populasi. Parameter yang didapatkan hasil dari proses
validasi ini kemudian akan diuji menggunakan data uji. Proses
pengujian menggunakan data uji dapat dilihat pada tabel III.
TABEL III
AKURASI PENGUJIAN HASIL PROSES VALIDASI

PERCOB AKURASI BPLM(%) AKURASI CSLM(%)

AAN KE-
2013 2014 2013 2014
1 65.96 68 65.96 73.23
2 62,01 64,92 64.44 76.92
3 61.09 67.38 64.74 75.69 Gambar 2. Jumlah Kelas Cuaca Tahun 2012 s.d. 2014

4 62.01 68.92 66.26 73.85

5 61.4 65.54 64.13 74.77
VII. ANALISIS HASIL PERCOBAANN
6 62.61 63.69 65.35 77.54
Berdasarkan hasil percobaan yang telah dilakukan,
7 62.01 67.38 64.44 77.54 diketahui bahwa jumlah neuron pada lapisan tersembunyi
8 61.7 59.08 67.17 73.23 yang paling optimal pada metode BPLM ialah berjumlah 3
9 60.49 59.69 63.83 76.92 neuron sedangkan untuk metode CSLM jumlah populasinya
10 62.92 65.54 65.35 74.46 berjumlah 20 populasi sarang. Perbandingan akurasi validasi
MINIMUM 60,49 59,08 63,83 73,23 tertinggi untuk untuk kedua jenis metode baik BPLM maupun
CSLM dapat dilihat pada grafik gambar 3.
MAKSIMUM 65,69 68,92 67,17 77,54
62,24 65,02 65,16 75,41
RATA-RATA
63,63 70,28

Fmeasure hasil pengujian dapat dilihat pada tabel IV seperti

berikut.
TABEL IV
FMEASURE PENGUJIAN HASIL VALIDASI
Rata-rata Rata-rata
KATEGORI Fmeasure Fmeasure
CUACA BPLM(%) CSLM(%)
2013 2014 2013 2014
HujanSangat
78,04 80,15 80,6 87,18
Ringan
Hujan Ringan 40,23 35,07 22,43 23,14 Gambar 3. Perbandingan Akurasi Validasi BPLM dan CSLM

Hujan Sedang 24,08 25,30 11,43 19,48 Dari grafik pada gambar 3 dapat dilihat bahwa metode
CSLM lebih mampu menelusuri bobot yang paling optimal
selama proses pelatihan dibandingkan metode BPLM saja
sehingga menghasilkan akurasi yang lebih tinggi. Dalam 10
kali percobaan, bobot yang didapatkan hasil pelatihan
menggunakan BPLM saja tidak memiliki kestabilan dan
cenderung memiliki akurasi yang lebih kecil. Sebaliknya
metode CSLM memiliki tingkat kestabilan yang baik dan
memiliki akurasi yang lebih tinggi terhadap data validasi. Hal
ini dikarenakan adanya pengaruh algoritma cuckoo search
yang berusaha menemukan kombinasi bobot antar neuron
yang paling optimal untuk proses pelatihan BPLM sehingga
menghasilkan akurasi prediksi yang lebih tinggi.
Kombinasi parameter kedua jenis metode yang
menghasilkan akurasi tertinggi pada data validasi kemudian
diuji dengan menggunakan data yang baru. Pengujian
dilakukan menggunakan data uji cuaca harian pada tahun
2013 dan data cuaca harian tahun 2014. Perbandingan rata-
rata akurasi pengujian diperlihatkan pada grafik gambar 4
seperti berikut.
Gambar 4. Perbandingan Akurasi Pengujian BPLM dan CSLM
Dari grafik tersebut terlihat bahwa metode CSLM
menghasilkan akurasi yang lebih tinggi daripada metode
BPLM. Hal ini dikarenakan bobot yang dihasilkan selama
proses pelatihan menggunakan metode CSLM dengan optimal
mampu menghasilkan akurasi yang tinggi pada saat validasi
dan memiliki kemampuan generalisasi yang lebih baik untuk
data uji.
VIII. KESIMPULAN DAN SARAN
A. Kesimpulan
1. Keakuratan algoritma CSLM(cuckoo search dan
backrpopagation levenberg marquardt) untuk
memprediksi cuaca di kota Palembang menghasilkan
akurasi sebesar 70,28% sedangkan BPLM saja
menghasilkan akurasi sebesar 63,63%. Dari lima
kategori cuaca, metode CSLM hanya mampu
memprediksi 3 kategori cuaca(hujan sangat ringan, hujan
ringan dan hujan sedang) dengan persentasi fmeasure
yang paling tinggi untuk kategori hujan sangat ringan.
2. Jumlah neuron pada lapisan tersembunyi yang paling
optimal berdasarkan percobaan dengan data validasi
sebanyak 3 neuron sedangkan jumlah populasi sarang
yang optimal untuk metode CSLM sebesar 20 populasi
sarang.
3. Selama proses validasi untuk menemukan parameter
terbaik, CSLM mampu menghasilkan rata-rata akurasi
validasi tertinggi sebesar 69,82% sedangkan BPLM
menghasilkan rata-rata akurasi validasi tertinggi sebesar
59,58%.
B. Saran
1. Melakukan prediksi cuaca dengan menggunakan data
cuaca yang memiliki interval waktu tertentu seperti ;
pagi, siang, sore atau malam.
2. Menambah data dan kelas kategori cuaca menjadi lebih
banyak.
3. Menggunakan algoritma optimasi lainnya untuk
mengoptimasi pemilihan arsitektur pada jaringan saraf
tiruan secara otomatis.
4. Menggunakan fungsi fitness yang tidak hanya
mengakomodasi nilai akurasi tetapi juga nilai presisi dan
recall untuk tiap-tiap kelas cuaca.
REFERENSI
[1] Abhishek, K., Singh, M. P., Ghosh, S., & Anand, A. (2012). Weather
Forecasting Model using Artificial Neural Network. Procedia
Technology, 4, 311–318. https://doi.org/10.1016/j.protcy.2012.05.047
[2] Abubakar, A. I., Khan, A., Nawi, N. M., Rehman, M. Z., Wah, T. Y.,
Chiroma, H., & Herawan, T. (2016). Studying the effect of training
levenberg marquardt neural network by using hybrid meta-heuristic
algorithms. Journal of Computational and Theoretical Nanoscience,
13(1), 450–460. https://doi.org/10.1166/jctn.2016.4826.
[3] Bushara, N. O., & Abraham, A. (2013). Computational Intelligence in
Weather Forecasting : A Review, 1, 320–331.
[4] Gill, E. J., Singh, E. B., & Singh, E. S. (2010). Training back
propagation neural networks with genetic algorithm for weather
forecasting IEEE 8th International Symposium on Intelligent Systems
and Informatics, 465–469. https://doi.org/10.1109/SISY.2010.5647319.
[5] Guo, Xinjian., Yin, Yilong,. Dong, Cailing. Yang, Gongping & Zhou,
Guangtong.(2008). On the Class Imbalance Problem. Fourth
International Conference on Natural Computation,192-199.DOI
10.1109/ICNC.2008.871
[6] Rahmat, Setiwan, R., & Purnomo, M. H. (2006). Perbandingan
Algoritma Levenberg-Marquardt dengan Metoda Backpropagation
pada Proses Learning Jaringan Saraf Tiruan untuk Pengenalan Pola
Sinyal Elektrokardiograf. Seminar Nasional Aplikasi Teknologi
Informasi. “PDCA12-70 data sheet,” Opto Speed SA, Mezzovico,
Switzerland.
[7] Shereef, I., & Baboo, S. (2011). A New Weather Forecasting
Technique using Back Propagation Neural Network with Modified
Levenberg-Marquardt Algorithm for Learning. Ijcsi.Org, 8(6), 2–9.
Retrieved from http://ijcsi.org/papers/IJCSI-8-6-2-153-160.pdf (2002)
The IEEE website. [Online]. Available: http://www.ieee.org/
[8] Yang, Xin-She,.(2010). "Nature-Inspired Metaheuristic Algorithms
Second Edition". University of Cambridge, UK: Luniver Press.
[9] Zheng, T., & Tamura, H. (2005). Avoiding the Local Minima Problem
in Backpropagation Algorithm with Modified Error Function Avoiding
the Local Minima Problem in Backpropagation Algorithm. IEICE
Transactions on Fundamentals of Electronics Communications and
Computer Sciences ·, (February 2014).
https://doi.org/10.1093/ietfec/e88-a.12.3645