Algoritma C.

45
• Algoritma C4.5 merupakan algoritma yang
berfungsi untuk klasifikasi atau segmentasi
atau pengelompokan dan bersifat prediktif.
Dasar dari algoritma C4.5 adalah
pembentukan pohon keputusan (decision
tree), dimana cabang-cabang pohon
keputusan merupakan pertanyaan klasifikasi
dan daun-daunnya merupakan kelas atau
segmennya

https://www.analisis-data.com/2018/11/algoritma-decision-tree-c45.html
• Root node, merupakan node paling atas (akar) dimana
pada node tidak ada input dan mempunyai output lebih
dari satu. Simpul akar biasanya berupa atribut yang
paling memiliki pengaruh terbesar pada suatu kelas
tertentu. 

• Internal node, merupakan node percabangan dimana

pada internal node hanya terdapat satu input dan m mal
2 output (berderajat ≠ 0). 

• Leaf node atau terminal node, merupakan node akhir

dimana pada node hanya terdapat satu input dan tidak
mempunyai output (berderajat 0).
• Secara umum algoritma C4.5 untuk
membangun Decision Tree dilakukan dengan
beberapa tahapan sebagai berikut: 
– Pilih atribut sebagai akar. 
– Buat cabang untuk tiap-tiap nilai. 
– Buat kasus dalam cabang. 
– Ulangi proses untuk setiap cabang sampai semua
kasus pada cabang memiliki kelas yang sama. 
• Contoh kasus : 
• Berikut adalah contoh sebuah data yang
digunakan untuk menentukan keputusan
seseorang untuk bermain tennis atau tidak,
beberapa variabel yang menentukan diantaranya
adalah outlook (cuaca), temperature (suhu),
humidity (kelembapan), dan windy (angin)
No Outlook Temperature Humidity Windy Play
1 Sunny Hot High FALSE No
2 Sunny Hot High TRUE No
3 Cloudy Hot High FALSE Yes
4 Rainy Mild High FALSE Yes
5 Rainy Cool Normal FALSE Yes
6 Rainy Cool Normal TRUE Yes
7 Cloudy Cool Normal TRUE Yes
8 Sunny Mild High FALSE No
9 Sunny Cool Normal FALSE Yes
10 Rainy Mild Normal FALSE Yes
11 Sunny Mild Normal TRUE Yes
12 Cloudy Mild High TRUE Yes
13 Cloudy Hot Normal FALSE Yes
14 Rainy Mild High TRUE No
• Berdasarkan data diatas, akan dilakukan proses
pembuatan model / pola, yang kemudian
digunakan memprediksi data baru yang belum
memiliki label / klasifikasi. Adapun tahap
perhitungannya adalah sebagai berikut :

• Hitung gain dari masing-masing atribut (Outlook,

Temperature, Himidity, Windy) kemudian
bandingkan mana yang paling besar, itulah yang
menjadi akar (root node). Cara menghitung gain,
terlebih dahulu hitung nilai entropy dari masing-
masing kategori dalam setiap atribut
menggunakan rumus berikut :
• Hitung jumlah kasus :
– Total data(S) = 14
– Jumlah kasus “No" (S1) =4
– Jumlah kasus “Yes" (S2)=10  
• Menghitung nilai entropy dan gain untuk
masing-masing atribut:
– Outlook, didalamnya terdapat partisi cloudy, rainy,
dan sunny, hitung jumlah masing-masing
partisinya, dan dari masing-masing partisi hitung
juga berapa jumlah kasus dari setiap keputusan
(Yes dan No)

Atribut Partisi Kasus (S) No (S1) Yes (S2)

Cloudy 4 0 4
Outlook Rainy 5 1 4
Sunny 5 3 2
• Nilai entropy pada masing-masing partisi :
• Nilai gain atribut outlook :
• Temperature, didalamnya terdapat hot, mild,
dan cool, hitung jumlah masing-masing
partisinya, dan dari masing-masing partisi
hitung juga berapa jumlah kasus dari setiap
keputusan (Yes dan No)

Atribut Value Kasus (S) No (S1) Yes (S2)

Hot 4 2 2
Temperature Mild 6 2 4
Cool 4 0 4
• Nilai entropy pada masing-masing
•

• Nilai gain atribut temperature :

• Humidity, didalamnya terdapat high dan
normal, hitung jumlah masing-masing
partisinya, dan dari masing-masing partisi
hitung juga berapa jumlah kasus dari setiap
keputusan (Yes dan No)

Atribut Value Kasus (S) No (S1) Yes (S2)

High 7 4 3
Humidity
Normal 7 0 7
• Nilai entropy pada masing-masing partisi :

• Nilai gain atribut humidity :

• Windy, didalamnya terdapat FALSE dan TRUE,
hitung jumlah masing-masing partisinya, dan
dari masing-masing partisi hitung juga berapa
jumlah kasus dari setiap keputusan (Yes dan
No)

Atribut Value Kasus (S) No (S1) Yes (S2)

FALSE 8 2 6
Windy
TRUE 6 2 4
• Nilai entropy pada masing-masing partisi :

• Nilai gain atribut windy :

 • Sehingga diperoleh hasil perhitungan entropy
dan gain seperti pada tabel berikut :
Node Atribut Value Kasus (S) No (S1) Yes (S2) Entropy Gain
1 Total   14 4 10 0,8631206  
  Outlook           0,258521
    Cloudy 4 0 4 0  
    Rainy 5 1 4 0,7219281  
    Sunny 5 3 2 0,9709506  
  Temperature           0,183851
    Hot 4 2 2 1  
    Mild 6 2 4 0,9182958  
    Cool 4 0 4 0  
  Humidity           0,370507
    High 7 4 3 0,9852281  
    Normal 7 0 7 0  
  Windy           0,005978
    FALSE 8 2 6 0,8112781  
    TRUE 6 2 4 0,9182958  
• Berdasarkan hasil perhitungan nilai gain tersebut,
kemudian pilih nilai gain terbesar yang kemudian
digunakan sebagai root node (akar) dari pohon
keputusan, diketahui nilai gain terbesar adalah
humidity, yakni sebesar 0,370507, sehingga atribut
Humidity digunakan sebagai root.

• Kemudian buat cabang sesuai banyaknya partisi.

Pada atribut humidity terdapat dua partisi yakni High
dan Normal, sehingga dari root humidity akan
dibentuk dua cabang High dan Normal.
• Dari masing-masing cabang, perhatikan partisi yang
memiliki kasus sama dengan 0. Dari data diatas,
diketahui bahwa partisi normal memiliki nilai 0 pada
kasus No, sehingga dapat dipastikan untuk humidity
normal semuanya akan menghasilkan label Yes, maka
pohon keputusan dapat dibuat sebagai berikut:
• Sedangkan untuk partisi High, masih terdapat
dua keputusan antara Yes dan No, sehingga
apabila terdapat kasus seperti diatas, maka
kita perlu melihat atribut yang lain, pada
cabang high harus berisi atribut, oleh karena
itu maka dilakukan proses pencarian node
berikutnya, dengan menggunakan data yang
telah di reduksi, yakni dengan melakukan filter
Humidity = High, seperti berikut:
• Adapun atribut yang perlu dihitung adalah
Outlook, Temperature dan Windy, sementara
untuk atribut Humidity tidak perlu dihitung
kembali karena telah menjadi node. Hitung
jumlah Entropy dan Gain dari masing-masing
atribut seperti cara sebelumnya, dengan
jumlah kasus yang baru (telah direduksi dari
sebelumnya), sehingga diperoleh data hasil
perhitungan untuk node 2 adalah sebagai
berikut:
• Diperoleh nilai gain terbesar adalah Outlook
yakni 0,69951, sehingga dapat dibuat pohon
keputusan untuk cabang High dari humidity
diisi dengan atribut Outlook, kemudian dari
outlook terdapat 3 partisi yakni Cloudy, Rainy
dan Sunny.
• Perhatikan nilai yang jumlah kasusnya 0,
berdasarkan tabel diketahui Kasus "No" pada
cloudy adalah 0, dan kasus "Yes" pada sunny
juga sama dengan 0, sementara untuk rainy
terdapat 2 keputusan sehingga pohon
keputusannya dapat dibuat seperti berikut:
Lakukan ulang seperti langkah sebelumnya untuk
mengetahui atribut berikutnya dengan kondisi
Outlook = Rainy berdasarkan tabel yang baru
(hasil filter dari tabel sebelumnya)
• Dengan cara / proses yang sama seperti
sebelumnya diperoleh tabel untuk node ke-3
sebagai berikut:
• Diperoleh nilai gain terbesar adalah windy =1,
sehingga atribut untuk node berikutnya adalah
windy, dan hasil akhir pohon keputusan
adalah sebagai berikut:
• Perhitungan di atas merupakan proses training,
yakni pembuatan model / pola, yang kemudian
diaplikasikan untuk data / kasus baru yang
belum diketahui label / klasifikasinya. Untuk
mengaplikasikan model diatas, kita dapat
mencoba  pada data baru yang belum diketahui
keputusannya, misalnya :
• Berdasarkan data di atas, untuk mendapatkan
hasil keputusan apakah harus bermain tennis
atau tidak, maka dapat dilihat berdasarkan
model yang telah terbentuk sebelumnya, yakni :
 Jika Humidity = High dan Outlook = Rainy
dan Windy = TRUE maka Play = No
 Sehingga hasil klasifikasinya adalah No
NO