Nama: Amelia Winursetia

Kelas: 3KA25
NPM: 17119138
Tugas Data Mining
Pohon Keputusan

Soal

Buatlah pohon keputusan untuk data di atas

Menghitung entropy
Outlook
Atribut TOTAL YES NO ENTROPY ENTROPY
ATRIBUT OUTLOOK
SUNNY 5 2 3 0.97
RAINY 5 4 1 0.72
CLOUDY 4 4 0 0
14 0.60

Entropy Sunny: -2/5log22/5-3/5log23/5 = 0.97

Entropy Rainy: -4/5log24/5-1/5log21/5 = 0.72
Entropy Cloudy: -4/4log24/4-0/4log20/4 = 0
Entropy Outlook = 5/14*0.97+5/14*0.72+4/14*0
 Temperature
Atribut TOTAL YES NO ENTROPY ENTROPY
ATRIBUT OUTLOOK
HOT 4 2 2 1
MILD 6 4 2 0.92
COOL 4 4 0 0
14 0.68

Entropy Hot: -2/4log22/4-2/4log22/4 = 1

Entropy Mild: -4/6log24/6-2/6log22/6 = 0.92
Entropy Cool: -4/4log24/4-0/4log20/4 = 0
Entropy Temperatue = 4/14*1+6/14*0.92+4/14*0

Humidity
Atribut TOTAL YES NO ENTROPY ENTROPY
ATRIBUT OUTLOOK

High 7 4 3 0.99
Normal 7 7 0
0.50

Entropy High: -4/7log24/7-3/7log23/7 = 0.99

Entropy Normal: -7/7log27/7-0/7log20/7 = 0
Entropy Humidity = 7/14*0.99+7/14* 0 = 0.50

Windy
Atribut TOTAL YES NO ENTROPY ENTROPY
ATRIBUT OUTLOOK

TRUE 6 2 4 0.92
FALSE 8 6 2 0.81
14 0.86

Entropy True: -2/6log22/6-4/6log24/6 = 0.92

Entropy False: -6/8log26/8-2/8log22/8 = 0.81
Entropy Windy = 6/14*0.92+8/14* 0.81 = 0.86
 Terpilih atribut Humidity, karena memiliki nilai entropy yang kecil

HUMIDITY

HIGH NORMAL

? YES

HIGH: YES= 4
NO = 3
NORMAL YES= 7
NO = 0

Perhitungan node selanjutnya menggunakan jumlah data pada HIGH yaitu sebanyak 7. Tidak
digunakan node normal karena semua nilai pada normal bernilai YES. Sedangkan pada node
high masih ada percabangan yes dan no.

HUMIDITY OUTLOOK TEMPERATURE WINDY PLAY

HIGH SUNNY HOT FALSE NO
HIGH SUNNY HOT TRUE NO
HIGH CLOUDY HOT FALSE YES
HIGH RAINY MILD FALSE YES
HIGH SUNNY MILD FALSE NO
HIGH CLOUDY MILD TRUE YES
HIGH RAINY MILD TRUE NO

0.28(entropy) 0.96 0.96

Dari table di atas akan dibuatkan lagi entropi setiap atributnya, digunakan hitungan yang
sama juga. Pada table di atas sudah dihitung entropy dengan warna biru. Pada table nilai yang
paling kecil adalah atribut outlook. Maka pada percabangan pohon selanjutnya digunakan
atribut outlook.
Pada pohon di atas, masih terdapat keraguan pada RAINY, dimana perbandingan nilai yes
dan no adalah 1:1. Maka dari itu digunakan data dari RAINY, untuk menentukan node apa
selanjutnya yang menjadi percabangan dari RAINY.

OUTLOOK TEMPERATURE WINDY PLAY

RAINY MILD FALSE YES
RAINY MILD TRUE NO
1 0

Windy:
Entropy True: -1/1log21/1-0/1log20/1 = 0
Entropy False: -0/1log20/1-1/1log21/1 = 0
Entropy Windy = 1/2*0+1/2* 0 = 0

Temperature:
Entropy mild= − 1/2log21/2 –1/2log21/2 = 1
Entropy temperature= 2/2(1) = 1

Karena hasil entropy antara windy dan temperature, lebih kecil dari nilai temperature maka
windy akan menjadi node bila outlooknya rainy. Dengan begitu, pohon keputusan dapat
digambarkan sebagai berikut: