Perbandingan Analisis Klasifikasi Data Nilai Akhir Mata

Kuliah Teori Peluang Aktuaria Tahun 2023 dengan

Menggunakan Metode Decision Tree dan Naïve Bayes
Agnes Monika Simalango1, Jean Sharon Patricia Ginting2, Karine Yoshefa Marybhoto Sitinjak3, Restu
Apriani Zul’aina4, Sesilia Audrey E5.
1,2,3,4,5
Program Studi Sains Aktuaria, Institut Teknologi Sumatera, Indonesia
Jl. Terusan Ryacudu, Way Huwi, Kec. Jati Agung, Kabupaten Lampung Selatan, Lampung 35365
Telp: (0721) 8030188, (0721) 8030189
Email:

ABSTRAK

Penilaian belajaran mahasiswa merupakan atribut terpenting dalam suatu proses pembelajaran. Nilai akhir
dapat digunakan untuk mengevaluasi dan memprediksi kelulusan mahasiswa terhadap mata kuliah yang
diikuti selama satu semester. Penelitian ini dilakukan untuk menganalisis algoritma Naïve Bayes dan
Decision/Classification Trees dalam mengklasifikasi kelulusan mahasiswa berdasarkan nilai akhir pada
salah satu mata kuliah. Penelitian ini bermanfaat bagi pembaca untuk menentukan algoritma terbaik yang
dapat digunakan dalam metode klasifikasi. Hasil penelitian ini menunjukkan bahwa metode Naïve Bayes
mempunyai akurasi yang lebih besar dalam probabilitas kebenaran data dibandingkan dengan Decision
Tree. Selisih nilai yang diperoleh sebesar 7,69% dimana metode Naïve Bayes mempunyai akurasi data
lebih besar 7,69% dibandingkan metode Decision Tree.
Kata kunci : klasifikasi, educational data mining, Naïve Bayes , Decision/Classification Trees

ABSTRACT

Student learning assessment is the most major attribute in a learning process. Final grades can be use to
evaluate and predict student graduation in the courses they take during one semester. This research
conducted to analyze the Naïve Bayes and Decision/Classification Trees algorithms in classifying student
graduation based on the final grade in one of the courses. This research is helpful for readers to determine
the best algorithm that can be use in classification methods. The results of this research show that the
Naïve Bayes method has greater accuracy in the probability of data truth than the Decision Tree method.
The difference in value obtained was 7.69%, where the Naïve Bayes method had a data accuracy value of
7.69% greater than the Decision Tree method.

Keywords: classification, educational data mining, Naïve Bayes, Decision/Classification Trees

1. PENDAHULUAN
Perguruan tinggi merupakan jenjang pendidikan
formal yang memiliki tujuan utama untuk
menyediakan pendidikan berkualitas bagi
mahasiswa. Dalam mencapai pendidikan yang
berkualitas dalam perguruan tinggi, diperlukannya
analisis lebih lanjut komponen utama yang
mempengaruhi penilaian pembelajaran mahasiswa
(Pekuwali, Andriyani, & Trisnawati, 2018). Pada
perguruan tinggi setiap pengajar atau dosen
memiliki kewajiban untuk memberikan penilain
terhadap hasil belajar untuk setiap mata kuliah pada
setiap akhir semester. Berdasarkan Peraturan
Pemerintah Nomor 49 tahun 2014 menjelaskan
bahwa penilaian pembelajaran adalah kriteria
minimal tentang penilaian proses dan hasil belajar
mahasiswa dalam rangka pemenuhan capaian
pembelajaran lulusan. Hal ini dikenal sebagai Data
Nilai Akhir (DNA), yang berisi akumulasi
penilaian dari hasil yang dicapai mahasiswa berupa
persentase nilai dari kuis, tugas terstruktur, Ujian
Tengah Semester (UTS), Ujian Akhir Semester
(UAS), serta keaktifan mahasiswa saat di kelas
dengan bobot yang telah ditentukan. Nilai akhir
dinyatakan dalam huruf dan angka berdasarkan
range nilai yang diperoleh.
Bertambahnya jumlah data yang tersimpan pada
basis data perguruan tinggi, membuat eksplorasi
pada data yang berukuran besar tidak dapat
dilakukan dengan mudah. Namun dengan
berkembangnya teknologi serta ilmu statistika
maka diperlukannya pengolahan data yang berasal
dari konteks pendidikan menjadi suatu informasi
yang dikenal sebagai Educational Data Mining
(EDM). Data mining dibagi menjadi beberapa
metode berdasarkan tugas yang dapat dilakukan
salah satunya adalah klasifikasi. Clustering
merupakan salah satu teknik data mining yang
berfungsi melakukan pengelompokan sejumlah
data atau objek ke dalam cluster (group) sehingga
setiap cluster akan berisi data yang semirip
mungkin dan berbeda dengan objek dalam cluster
yang lainnya. Teknik klasifikasi merupakan
pendekatan fungsi klasifikasi dalam data mining
yang digunakan untuk melakukan prediksi atas
informasi yang belum diketahui sebelumnya.
Teknik klasifikasi ini dapat pula digunakan untuk
melakukan prediksi atas informasi yang belum
diketahui sebelumnya (Suprawoto, 2016).
Oleh karena itu perlu dilakukan analisis mengenai
hasil belajar mahasiswa, sehingga dari hasil analisis
tersebut dapat diperoleh metode terbaik untuk
mengklasifikasikan tingkat kelulusan mahasiswa
dengan cara membandingkan tingkat akurasinya.
Data penilaian terdiri dari dari sejumlah nilai yaitu
kuis, tugas terstruktur, keaktifan, ujian tengah
semester, ujian akhir semester, serta total nilai mata
kuliah teori peluang aktuaria pada tahun 2023.
Algoritma yang biasa digunakan dalam data mining
dengan metode klasifikasi yaitu
Decision/Classification Trees, Naïve Bayes
Classifiers, Genetic Algorithms, Rough Sets, K-
Nearest Neighbor Classifier, Rule-based Methods,
Memory Based Reasoning, Support Vector
Machines, Random Forest. Dengan banyaknya
pilihan algoritma yang bisa digunakan serta kondisi
pengujian yang berbeda-beda memberikan
kesulitan untuk dapat mengidentifikasi algoritma
terbaik yang dapat digunakan.
Decision/Classification Trees merupakan teknik
data mining yang digunakan untuk mengeksplorasi
data dengan membagi kumpulan data yang besar
menjadi himpunan record yang lebih kecil dan
memperhatikan variabel tujuannya. Pohon
keputusan sangat baik untuk menyelesaikan
permasalahan klasifikasi data. Keuntungan utama
dari suatu Decision/Classification Trees adalah
kemampuannya untuk melakukan visualisasi data.
(Budiman & Parandani, 2017). Sedangkan Naïve
Bayes Classifier (NBC) adalah salah satu dari
algoritma supervised document classification yang
sederhana namun efisien. Model probabilistik dari
algoritma ini didasarkan pada teori Bayes. Naive
Bayes Classifier telah diterapkan di berbagai
bidang, seperti: kedokteran, perbankan,
perpustakaan, instansi perkantoran, dll.
Permasalahan klasifikasi yang sering dipecahkan
dengan NBC antara lain seperti: diagnosa penyakit
dan pembuatan keputusan pada prosedur
perawatannya, penyaringan spam pada email
clients, analisis sentimen, prediksi kelayakan calon
nasabah asuransi, dll (Pujianto, Widiyaningtyas,
Prasetya, & Romadhon, 2017).
Sehingga pada penelitian ini penulis ingin
membandingkan metode Decision/Classification
Trees dan Naïve Bayes dengan metode klasifikasi
terhadap kelulusan mahasiswa pada nilai akhir
mata kuliah teori peluang aktuaria tahun 2023.
a. Rumusan Masalah
Adapun masalah yang akan peniliti angkat adalah :
1. Bagaimana cara mengekstrasi dan menganalisa
nilai hasil pembelajaran mahasiswa ?
2. Bagaimana akurasi algoritma
Decision/Classification Trees dan Naïve
Bayes dalam mengklasifikasi kelulusan
mahasiswa ?
b. Tujuan Penelitian
Adapun tujuan dari penelitian ini yaitu:
1. Melakukan klasifikasi nilai akhir mata kuliah
teori peluang aktuaria tahun 2023
menggunakan metode Decision/Classification
Trees dan Naïve Bayes untuk mendapatkan
klasifikasi nilai mahasiswa dengan tingkat
akurasi yang baik.
2. Membandingkan nilai akurasi metode decision
tree dan naïve bayes sehingga dapat
dikategorikan sebagai metode klasifikasi yang
baik.

2. TINJAUAN PUSTAKA
2.1 Data mining
Secara umum Data Mining terbagi atas 2 (dua) kata
berikut.
a. Data yaitu Kumpulan Fakta yang terekam atau
sebuah entitas yang tidak memiliki arti dan
selama ini terabaikan.
b. Mining yaitu proses Penambangan sehingga,
Data Mining itu dapat diartikan sebagai proses
penambangan data yang menghasilkan sebuah
output (keluaran) berupa pengetahuan.
Data mining adalah sebuah proses pencarian secara
otomatis informasi yang berguna dalam tempat
penyimpanan data berukuran besar. Teknik data
mining digunakan untuk memeriksa basis data
berukuran besar sebagai cara untuk menemukan
pola yang baru dan berguna.
Secara garis besar terdapat 2 pendekatan untuk
melakukan teknik - teknik data mining di atas,
yaitu:
a. Supervised Learning yaitu pembelajaran
menggunakan guru dan biasanya ditandai
dengan adanya class/label/target
himpunan data. Supervised learning
merupakan sebuah pendekatan dimana sudah
terdapat data yang dilatih, dan terdapat
variabel yang ditargetkan sehingga tujuan dari
pendekatan ini adalah mengelompokan suatu
data ke data yang sudah ada. Adapun teknik-
teknik yang digunakan yang bersifat
supervised learning seperti Teknik Prediksi
dan Klasifikasi seperti Algoritma C4.5, Teknik
Rough Set dan lain-lain.
b. Unsupervised Learning yaitu pembelajaran
tanpa menggunakan guru dan biasanya
ditandai pada himpunan datanya tidak
memiliki atribut keputusan
class/label/target. Perbedaan dengan
supervised learning, pada unsupervised
learning tidak memiliki data latih, sehingga
dari data yang ada dikelompokan menjadi 2
bagian atau 3 bagian dan seterusnya. Adapun
teknik-teknik yang bersifat Unsupervised
Learning yaitu Teknik Estimasi, Clustering,
dan Asosiasi seperti Regresi Linier, Analytical
Hierarchy Clustering dan lain-lain. (Gede
Aditra Pradnyana).
2.2 Educational data mining
Pada bidang pendidikan, muncul bidang baru yang
disebut Educational Data Mining (EDM). Bidang
tersebut berkaitan dengan teknik pengembangan
yang menemukan pengetahuan dari data yang
berasal dari lingkungan pendidikan. Tujuan EDM
sebagai prediksi perilaku belajar di masa depan
siswa, mempelajari dampak dukungan pendidikan,
dan memajukan pengetahuan ilmiah tentang
pembelajaran. Data mining dapat digunakan oleh
sebuah institusi untuk mengambil keputusan yang
akurat dan juga untuk memprediksi hasil siswa.
Dengan hasilnya institusi dapat berfokus pada
materi yang diajarkan serta cara mengajar. Pola
belajar siswa dapat diambil dan digunakan untuk
mengembangkan teknik mengajar para tenaga
pendidik. (Gede Aditra Pradnyana).
2.3 Klasifikasi
Suatu teknik dengan melihat pada kelakuan dan
atribut dari kelompok yang telah didefinisikan.
Teknik ini dapat memberikan klasifikasi pada data
baru dengan memanipulasi data yang telah
diklasifikasi dan dengan menggunakan hasilnya
untuk memberikan sejumlah aturan. Klasifikasi
termasuk kedalam supervised learning.
Proses klasifikasi terdiri atas dua langkah yaitu:
 learning step: di mana klasifikasi model
dibangun
 classification step: di mana model digunakan
untuk memprediksi kelompok kelas untuk data
tertentu
(Han, Kamber, & Pei, 2001).
pada 2.4 Decision/Classification Trees
Decision tree merupakan metode klasifikasi data
mining. Decision tree dalam istilah pembelajaran
merupakan sebuah struktur pohon dimana setiap
node pohon mempresentasikan atribut yang telah
diuji. Setiap cabang merupakan suatu pembagian
hasil uji dan node daun (leaf) mempresentasikan
kelompok kelas tertentu. Level node teratas dari
sebuah Decision Tree adalah node akar (root) yang
biasanya berupa atribut yang paling memiliki
pengaruh terbesar pada suatu kelas tertentu. Secara
umum Decision/Classification Trees merupakan
metode yang sangat popular dan banyak digunakan
karena praktis serta mempunyai akurasi yang baik
atau
(Han, Kamber, & Pei, 2001).
Gambar 2.4 1 Ilustrasi cara kerja Decision Trees
(sumber : medium.com)
2.5 Naïve Bayes
Naïve Bayes merupakan sebuah metode
penggolongan dengan pendekatan analisis data
statisktika yang didasari oleh probabilitas
sederhana dan dirancang untuk dipergunakan
dengan asumsi bahwa antar satu kelas dengan kelas
yang lain tidak saling tergantung (Browne, 2006). 57 97 95 50 86 76,8 Ya
Menurut (Han, Kamber, & Pei, 2001) klasifikasi Tabel 3 1Data Nilai Akhir mata kuliah Teori Peluang Aktuaria
Tahun 2023
Naïve Bayes terbukti memiliki akurasi dan
kecepatan yang tinggi saat diaplikasikan ke dalam Berdasarkan tabel diatas, berikut variabel yang
basis data dengan jumlah yang besar. Cara kerja digunakan dalam penelitian:
Naïve Bayes didasari oleh teorema Bayes yang
bekerja dengan prinsip probabilitas bersyarat Variabel Keterangan
(conditional probability). Berikut rumus Y Lulus
probabilitas bersyarat. X1 Kuis
X2 Tugas
P ( B| A ) P( A) X3 Keaktifan
P ( A|B )= X4 UTS
P(B)
X5 UAS
Dengan, X6 Total
Tabel 3 2 Variabel penelitian klasifikasi Data Nilai Akhir mata
P(A| = Probabilitas bersyarat A yang kuliah Teori Peluang Aktuaria tahun 2023
B) diberikan oleh B
P(B| = Probabilitas bersyarat B yang 3.2 Prosedur Penelitian
A) diberikan oleh A Langkah- langkah yang harus dilakukan dalam
P(A) = Probabilitas kejadian A penelitian ini adalah sebagai berikut:
P(B) = Probabilitas kejadian B 3.2.1 Menggunakan metode Decision Tree
1. Mengumpulkan data dari Data Nilai
Akhir mata kuliah Teori Peluang
3. METODE PENELITIAN Aktuaria tahun 2023.
3.1 Data 2. Mendeskripsikan data dengan
Data yang digunakan dalam penelitian ini adalah menentukan struktur data.
Data Nilai Akhir Mahasiswa Sains Aktuaria pada 3. Membagi data menjadi data training
mata kuliah Teori Peluang Aktuaria tahun 2023 dan dan data testing, kemudian klasifikasi
merupakan data sekunder. Data diperoleh dari data training dengan Decision Tree
publikasi yang dilakukan tim Dosen Sains Aktuaria 4. Membuat plot Decision Tree.
ITERA sebagai nilai akhir pada mata kuliah Teori 5. Prediksi data testing dalam menentukan
Peluang Aktuaria semester 4 tahun ajaran 2023/ akurasi peluang data dengan metode
2024. Variabel yang digunakan pada data Decision Tree.
berjumlah sebanyak 7 variabel, yakni Kuis (X 1), 6. Menarik kesimpulan.
Tugas (X2), Keaktifan (X3), Ujian Tengah Semester
(UTS) (X4), Ujian Akhir Semester (UAS) (X 5), 3.2.2 Menggunakan metode Naïve Bayes
Total dan Lulus (Y). Variabel yang menjadi 1. Mengumpulkan data dari Data Nilai Akhir
variabel response adalah Lulus dan variabel mata kuliah Teori Peluang Aktuaria tahun
lainnya akan menjadi data inputan yang 2023.
menghasilkan nilai dari variabel Lulus, pengolahan 2. Mendeskripsikan data dengan menentukan
data dilakukan dengan menggunakan software R struktur data.
Studio. 3. Membagi data menjadi data training dan
Berikut tampilan Data Nilai Akhir pada mata data testing, kemudian klasifikasi dengan
kuliah Teori Peluang Aktuaria tahun 2023. menggunakan metode Naïve Bayes.
4. Menghitung nilai prediksi dan kinerja
Kui Tug Kea U U Tot Lulus prediksi untuk menentukan akurasi
s as ktif T A al peluang data dengan metode Naïve Bayes.
an S S 5. Menarik kesimpulan.
11 50 95 35 32 41,1 Tidak
94 95 95 67 98 88,4 ya 4. HASIL DAN PEMBAHASAN
3 98 95 20 20 43,7 Tidak 4.1 Metode Decision Tree
10 93 95 26 36 49,7 Ya 4.1.1 Menentukan struktur data
80 97 95 52 64 72,9 Ya Data diimport kan ke dalam soft ware R Studio,
37 98 95 45 29 56,7 Ya kemudian menentukan struktur data tiap variabel
33 98 95 19 16 45,2 Tidak pada Data Nilai Akhir Mahasiswa Sains Aktuaria
51 95 95 49 68 70,0 Ya pada mata kuliah Teori Peluang Aktuaria tahun
54 97 95 43 65 68,3 Ya 2023.
29 93 95 60 65 69,5 Ya
34 93 95 51 66 68,1 Ya

Gambar 4 1 Keluaran (output) struktur data tiap variabel pada
Data Nilai Akhir mata kuliah Teori Peluang Aktuaria tahun
2023
4.1.2 Klasifikasi menggunakan metode Decision
Tree
Data Nilai Akhir mata kuliah Teori Peluang
Aktuaria tahun 2023 dibagi menjadi dua tipe data
yaitu data training dan data testing, dimana 80%
bagian adalah data training dan 20% bagian adalah
data testing. Kemudian, membuat model data
training dengan metode Decision Tree, packages
yang digunakan adalah “party” pada R Studio.
Gambar 4 2 Model data training pada Data Nilai Akhir mata
kuliah Teori Peluang Aktuaria tahun 2023
4.1.3 Plot Decision Tree
Model data training yang telah didapatkan akan
dibuat menjadi plot (grafik) untuk memudahkan
membaca peluang dari klasifikasi yang dilakukan
menggunakan packages “rpart”, “rpart.plot”.
Gambar 4 3 plot Decision Tree
Plot yang dihasilkan seperti pada gambar diatas
memiliki hasil bahwa pada data training,
mahasiswa yang dikatakan lulus pada mata kuliah
Teori Peluang Aktuaria memiliki presentase
sebesar 71%, sedangkan mahasiswa dikatakan
tidak lulus memiliki persentase sebesar 29%.
4.1.4 Prediksi data testing dalam menentukan
Akurasi Data dengan metode Decision Tree.
Plot yang dihasilkan pada langkah sebelumnya
adalah menggunakan data training, sehingga dalam
menentukan prediksi menggunakan 20% bagian
pada Data Nilai Akhir mata kuliah Teori Peluang
Aktuaria tahun 2023 yaitu data testing. Packages
yang digunakan adalah “caret” dengan fungsi
“confusionMatrix.
 Gambar 4 5Struktur Data Nilai Akhir mata kuliah Teori
Peluang Aktuaria tahun 2023

4.2.1Klasifikasi menggunakan metode Naïve Bayes

Gambar 4 4Prediksi data testing dalam menentukan akurasi
data dengan metode Decision Tree
Klasifikasi Naïve Bayes menggunakan packages
yang berbeda dengan metode Decision Tree, yaitu
menggunakan packages “e1071” dan “caret”,
dimana pada klasifikasi metode ini menggunakan
data yang sama yaitu data training, dengan function
yang digunakan adalah “naiveBayes”.

Prediksi data testing yang telah dilakukan

menghasilkan nilai akurasi data sebesar 88,46%,
sensitivitas sebesar 100% (prediksi sepenuhnya
benar), spesitivitas sebesar 85,00%.

4.2 Metode Naïve Bayes

4.2.1 Menentukan struktur data

Sama halnya dengan metode Decision Tree,
metode Naive Bayes juga memerlukan penentuan
dalam struktur data dengan tipe data “factor” akan
menjadi tipe data pada variable response yaitu
“Lulus”.

Gambar 4 6 Model klasifikasi menggunakan metode Naive

Bayes
4.2.3 Prediksi data testing dalam menentukan
Akurasi data dengan metode Naïve Bayes

Akurasi data dengan menggunakan metode Naïve

Bayes menggunakan packages yang sama dengan
metode Decision Tree yakni packages “caret” 6.DAFTAR PUSTAKA
dengan fungsi “confusionMatrix”.

Gambar 4 7 Prediksi data testing dalam menentukan akurasi

data menggunakan metode Naive Bayes

Prediksi data testing yang telah dilakukan

menghasilkan nilai akurasi data sebesar 96,15%,
sensitivitas sebesar 100% (prediksi sepenuhnya
benar), spesitivitas sebesar 95,00%.

5. KESIMPULAN
Kebenaran suatu data ditentukan dari seberapa
besar akurasi data yang didapatkan melalui metode
yang ada, dimana pada penelitian ini menggunakan
dua metode yaitu Decision Tree dan Naïve Bayes.
Berdasarkan perhitungan yang telah dilakukan
menggunakan kedua metode, menghasilkan bahwa
metode Naïve Bayes memiliki akurasi peluang
kebenaran data yang lebih besar dibandingkan
dengan metode Decision Tree. Selisih nilai yang
didapatkan adalah sebesar 7,69%, dimana dengan
metode Naïve Bayes memiliki nilai akurasi data
yang lebih besar 7,69% dibandingkan dengan
menggunakan metode Decision Tree. Dengan
demikian, dalam perbandingan analisis klasifikasi
metode Decision Tree dan Naïve Bayes, metode
klasifikasi Naïve Bayes dapat disimpulkan menjadi
metode yang lebih baik dibandingkan
menggunakan analisis klasifikasi metode Decision
Tree.
Browne, M. W. (2006). LECTURE NOTES IN DATA MINING. World Scientific Publishing .

Gede Aditra Pradnyana, S. M. (n.d.). Konsep Dasar Data. Retrieved from pustaka.ut:
https://pustaka.ut.ac.id/lib/wp-content/uploads/pdfmk/MSIM4403-M1.pdf

Han, J., Kamber, M., & Pei, J. (2001). Data Mining Concepts and Techniques. United States: Elsevier Inc.

Irfan, M. I. (2023, January 1). Algorima Naive Bayes. Retrieved from rpubs.com:
https://rpubs.com/IbadullahIrfan383/994511

M.Kom, P. D., & U’un Setiawati, S. (2021, January 12). Metode Klasifikasi Naive Bayes, Random Forest dan
Decicion Tree untuk Memprediksi Kanker Payudara Menggunakan Rstudio. Retrieved from
rpubs.com: https://rpubs.com/uuns/klasifikasi

Pekuwali, A. A., Andriyani, & Trisnawati, H. (2018). PROSIDING SEMMAU 2018. REDIKSI PENILAIAN
HASIL BELAJAR MAHASISWA NAÏVE BAYESIAN, 647-653.

Tsyukdiah, H. (2020, July 18). Klasifikasi Decision Tree dengan R. Retrieved from medium.com:
https://halimatusyak.medium.com/klasifikasi-decision-tree-dengan-r-f12a0e48e060