DATA CURAH HUJAN TINGGI AIR PINTU AIR

1 TINGGI TINGGI BESAR

2 TINGGI TINGGI SEDANG
3 TINGGI TINGGI KECIL
4 TINGGI NORMAL BESAR
5 TINGGI NORMAL SEDANG
6 TINGGI NORMAL KECIL
7 NORMAL TINGGI BESAR
8 NORMAL TINGGI SEDANG
9 NORMAL TINGGI KECIL
10 NORMAL NORMAL BESAR
11 NORMAL NORMAL SEDANG
12 NORMAL NORMAL KECIL

Penentuan Value Setiap Attribut

CURAH HUJAN TINGGI AIR PINTU AIR
1 TINGGI TINGGI BESAR
2 NORMAL NORMAL SEDANG
3 KECIL

Menghitung entropy Banjir

Banjir Frekuensi Pi log2 Pi
YA 8 1.00 0
TIDAK
TOTAL 8 entropy (Banjir)

Menghitung entropy dan gain setiap attribut

VALUE YA
1 CURAH HUJAN TINGGI 6
NORMAL 2
2 TINGGI AIR TINGGI
NORMAL
3 PINTU AIR BESAR
SEDANG
KECIL

Sample Data Banjir di Waduk Gajah Mungkur jika curah hujan normal
DATA CURAH HUJAN TINGGI AIR PINTU AIR
7 NORMAL TINGGI BESAR
8 NORMAL TINGGI SEDANG
9 NORMAL TINGGI KECIL
10 NORMAL NORMAL BESAR
11 NORMAL NORMAL SEDANG
12 NORMAL NORMAL KECIL

Menghitung entropy Banjir (Curah hujan normal)

Banjir Frekuensi Pi log2 Pi
YA
TIDAK
entropy (curah
TOTAL hujan normal)

Menghitung gain setiap attribut

VALUE YA
2 TINGGI AIR TINGGI
NORMAL
3 PINTU AIR BESAR
SEDANG
KECIL
 BANJIR
YA
YA
YA
YA
YA
YA
YA
TIDAK
TIDAK
YA
TIDAK
TIDAK

-Pi.log2 Pi
0.00

0.00

TIDAK P(YA) P(TIDAK) -P(YA) * log2 P(YA) -P(TIDAK) * log2 P(TIDAK) TOTAL
0 1 0 0 0 0

rah hujan normal

BANJIR
YA
TIDAK
TIDAK
YA
TIDAK
TIDAK

-Pi.log2 Pi
TIDAK P(YA) P(TIDAK) -P(YA) * log2 P(YA) -P(TIDAK) * log2 P(TIDAK) TOTAL
 entropy total entropy
P(...) TOTAL * P(...) E(TOTAL * P(...)) GAIN
0.5 0 0.00 0.00
 entropy total entropy
P(...) TOTAL * P(...) E(TOTAL * P(...)) GAIN
 Kasus untuk prediksi “ Apakah harus bermain baseball ? “
Target : No dan Yes
Selesaikan dengan Klasifikasi C-45

No Outlook Temperature Humadity Windy

1 Sunny Hot High 0
2 Sunny Hot High 1
3 Cloudy Hot High 0
4 Rainy Mild High 0
5 Rainy Cool Normal 0
6 Rainy Cool Normal 1
7 Cloudy Cool Normal 1
8 Sunny Mild High 0
9 Sunny Cool Normal 0
10 Rainy Mild Normal 0
11 Sunny Mild Normal 1
12 Cloudy Mild High 1
13 Cloudy Hot Normal 0
14 Rainy Mild High 1

Penentuan Value Setiap Attribut

Outlook Temprerature Humadity Windy
1 Sunny Hot High 0
2 Cloudy Mild Normal 1
3 Rainy Cool

Menghitung entropy Play

Play Frekuensi Pi log2 Pi
Yes 10 0.71 -0.4854268272
No 4 0.29 -1.8073549221
TOTAL 14 entropy (Play)

Menghitung entropy dan gain setiap attribut

VALUE Yes No
1 Outlook Sunny 2 3
Cloudy 4 0
Rainy 4 1
2 Temprerature Hot 2 2
Mild 4 2
Cool 4 0
3 Humadity High 3 4
Normal 7 0
4 Windy 0 6 2
1 4 2
 Play
No
No
Yes
Yes
Yes
Yes
Yes
No
Yes
Yes
Yes
Yes
Yes
No

-Pi.log2 Pi
0.35
0.52
0.86

P(YA) P(TIDAK) -P(YA) * log2 P(YA) -P(TIDAK) * log2 P(TIDAK) TOTAL

0.4 0.6 0.528771238 0.4421793565 0.9709505945
1 0 0 0 0
0.8 0.2 0.2575424759 0.464385619 0.7219280949
0.5 0.5 0.5 0.5 1
0.6666666667 0.3333333333 0.3899750005 0.5283208336 0.9182958341
1 0 0 0 0
0.4285714286 0.5714285714 0.5238824663 0.4613456697 0.985228136
1 0 0 0 0
 0.75 0.25 0.3112781245 0.5 0.8112781245
0.6666666667 0.3333333333 0.3899750005 0.5283208336 0.9182958341
 entropy total entropy
P(...) TOTAL * P(...) E(TOTAL * P(...)) GAIN
0.35714286 0.3467680694 0.60 0.26
0.28571429 0
0.35714286 0.2578314625
0.28571429 0.2857142857 0.68 0.18
0.42857143 0.3935553575
0.28571429 0
0.5 0.492614068 0.49 0.37
0.5 0
0.57142857 0.4635874997 0.86 0.01
0.42857143 0.3935553575