DECISION TREE
Mengubah data menjadi sebuah
pohon keputusan yang terdapat
aturan-aturan keputusan
Menggunakan nilai Terbesar dari
Entropy yang digunakan sebagai root
pertama dalam sebuah pohon.
NOTASI YANG DI
GUNAKAN
: digunakan untuk atribut
ENTROPY (S):
Adalah suatu parameter untuk mengukur tingkat
keberagaman (heterogenitas) dari kumpulan
data.
n
INFORMATION GAIN
Merupakan ukuran efektifitas suatu
attribut dalam mengklasifikasikan
data.
n
Gain ( S , A) Entropy ( S )
i 1
Si
* Entropy ( Si )
S
Entropy total :
Jumlah Data = 20
Jumlah lulus
= 10
Jumlah tidak lulus = 10
10
10 10
10
Entropy (Total )
* log 2
* log 2
20 20
20
20
1
3
3 1
1
Entropy (" lebih" ) * log 2 * log 2
4
4
4
4
0.8113
4
9
4
9
Entropy (" cukup" )
* log 2
* log 2
13 13
13
13
0.8905
3
Entropy (" kurang " ) * log 2 0 * log 2 0
3
3
umur
Total
* Entropy (umur )
13
3
4
* 0.8113
* 0.8905
*0
20
20
20
0.2589
1
6
Entropy (" SangatBaik " ) * log 2 0 * log 2 0
6
6
0
4
4 5
5
Entropy (" Cukup" ) * log 2 * log 2
9 9
9
9
0.9911
5
5
Entropy (" kurang " ) 0 * log 2 0 * log 2
5
5
TesWwncara
Total
9
5
6
*0
* 0.9911
*0
20
20
20
0.5540
1
* Entropy (TesWwncara )
TesTulis
Total
* Entropy (TesTulis )
9
5
6
* 0.9183
* 0.9911
* 0.7219
20
20
20
0.0980
1
7
5
7
5
Entropy (" ya" )
* log 2
* log 2
12 12
12
12
0.9799
3
3 5
5
Entropy (" tidak " ) * log 2 * log 2
8 8
8
8
0.9544
MmlikiMnat
Total
8
12
* 0.9799
* 0.9544
20
20
0.0303
1
* Entropy ( MmlikiMnat )
7
2
7
2
Entropy (" ya" ) * log 2 * log 2
9 9
9
9
0.7642
3
8
3
8
Entropy (" tidak " )
* log 2
* log 2
11 11
11
11
0.8454
MmlikiBkat
Total
11
9
* 0.7642
* 0.8454
20
20
0.1912
1
* Entropy ( MmlikiBkat )
Tes Wawancara
Tes Wawancara memiliki 3 instance,
jika Tes Wawancara
Sangat Baik : Lulus
Cukup
: Bisa Lulus / Tidak Lulus
Kurang : Tidak Lulus
POHON PERTAMA
Tes
Wawancara
Sangat
Baik
Lulus
Kurang
Cuku
p
Tidak Lulus
Lakukan Qwery
Nama Data Base : Andika
Macam Atribut : Nama, Tes Wawancara, Tes Tulis,
Memiliki minat dan memiliki Bakat
Entropy total :
Jumlah Data = 9
Jumlah lulus
=4
Jumlah tidak lulus = 5
4
5
4
5
Entropy (Total )
* log 2
* log 2
9
9
9
9
0.9911
1
Entropy (" lebih" ) * log 2 0 * log 2 0
1
1
2
2 5
5
Entropy (" cukup" ) * log 2 * log 2
7 7
7
7
0.8631
1
Entropy (" kurang " ) * log 2 0 * log 2 0
1
1
umur
Total
* Entropy (umur )
7
1
1
* 0 * 0.8631 * 0
9
9
9
0.9911
0.3198
1
Entropy (" sangatbaik " ) * log 2 0 * log 2 0
1
1
0
3
3 1
1
Entropy (" cukup" ) * log 2 * log 2
4
4
4
4
0.8113
4
4
Entropy (" kurang " ) 0 * log 2 0 * log 2
4
4
TesTulis
Total
* Entropy (TesTulis )
4
4
1
* 0 * 0.9911 * 0
9
9
9
0.9911
0.6305
2
2 1
1
Entropy (" ya" ) * log 2 * log 2
3 3
3
3
0.9183
2
4
2
4
Entropy (" tidak " ) * log 2 * log 2
6 6
6
6
0.9183
MmlikiMnat
Total
6
3
* 0.9183 * 0.9183
9
9
0.9911
0.0728
* Entropy ( MmlikiMnat )
2
2 1
1
Entropy (" ya" ) * log 2 * log 2
3 3
3
3
0.9183
2
4
2
4
Entropy (" tidak " ) * log 2 * log 2
6 6
6
6
0.9183
MmlikiBkat
i 1
6
3
* 0.9183 * 0.9183
9
9
0.0728
1
Total
* Entropy ( MmlikiBkat )
Tes Tulis
Tes Wawancara memiliki 3 instance,
jika Tes Wawancara
Sangat Baik : Lulus
Cukup
: Bisa Lulus / Tidak Lulus
Kurang : Tidak Lulus
POHON KEDUA
Tes
Wawancara
Sangat
Baik
Lulus
Sangat
Baik
Lulus
Kurang
Cuku
p
Tes
Tulis
Tidak Lulus
Kurang
Cuku
p
?
Lulus
Entropy total :
Jumlah Data = 4
Jumlah lulus
=3
Jumlah tidak lulus = 1
3
1
3
1
Entropy (Total )
* log 2
* log 2
4
4
4
4
0.8113
1
Entropy (" lebih" ) * log 2 0 * log 2 0
1
1
1
1 1
1
Entropy (" cukup" ) * log 2 * log 2
2
2
2
2
1
1
Entropy (" kurang " ) * log 2 0 * log 2 0
1
1
umur
Total
* Entropy (umur )
2
1
1
* 0 *1 * 0
4
4
4
0.9911
0.3113
1
Entropy (" ya" ) * log 2 0 * log 2 0
1
1
0
2
2 1
1
Entropy (" tidak " ) * log 2 * log 2
3 3
3
3
0.9183
MmlikiMnat
i 1
3
1
* 0 * 0.9183
4
4
0.9911
0.1226
Total
* Entropy ( MmlikiMnat )
1
Entropy (" ya" ) * log 2 0 * log 2 0
1
1
0
2
2 1
1
Entropy (" tidak " ) * log 2 * log 2
3 3
3
3
0.9183
MmlikiMnat
i 1
3
1
* 0 * 0.9183
4
4
0.9911
0.1226
Total
* Entropy ( MmlikiMnat )
Umur
Umur memiliki 3 instance, jika Umur
lebih
Cukup
Kurang
: Lulus
: Bisa Lulus / Tidak Lulus
: Lulus
Tes
Wawancara
Sangat
Baik
POHON Ke Tiga
Lulus
Sangat
Baik
Cuku
p
Tes Tulis
Cuku
p
Lulus
Kurang
Tidak Lulus
Kurang
Umur
Lebih
Kurang
Lulus
Lulus
Cuku
p
?
Lulus
Entropy total :
Jumlah Data = 2
Jumlah lulus
=1
Jumlah tidak lulus = 1
1
1
1
1
Entropy (Total )
* log 2
* log 2
2
2
2
2
1
1 0 * 0 *1
2
MmlikiMnat
Total
* Entropy ( MmlikiMnat )
1
Entropy (" ya" ) * log 2 0 * log 2 0
1
1
0
1
1
Entropy (" tidak " ) * log 2 0 * log 2 0
1
1
1
1
*0 *0
2
2
1
1
MmlikiMnat
Total
* Entropy ( MmlikiMnat )
Memiliki Bakat
Umur memiliki 2 instance, jika Umur
Ya
: Lulus
Tidak : Tidak Lulus
Tes
Wawancara
Sangat
Baik
POHON Ke Tiga
Lulus
Sangat
Baik
Cuku
p
Tes Tulis
Cuku
p
Lulus
Umur
Lebih
Kurang
Lulus
Ya
Lulus
Memiliki
Bakat
Tidak
Tidak Lulus
Kurang
Tidak Lulus
Kurang
Tidak Lulus
Cuku
p
Lulus
MINIMUM
DECISION TREE
DECISION TREE
Menggunakan nilai Terkecil dari
Entropy yang digunakan sebagai root
pertama dalam sebuah pohon.
3
3 1
1
Entropy (" lebih" ) * log 2 * log 2
4
4
4
4
0.8113
4
9
4
9
Entropy (" cukup" )
* log 2
* log 2
13 13
13
13
0.8905
3
Entropy (" kurang " ) * log 2 0 * log 2 0
3
3
Entropy (Total )
i 1
umur
Total
* Entropy (umur )
13
3
4
* 0.8113
* 0.8905
*0
20
20
20
0.7411
6
Entropy (" SangatBaik " ) * log 2 0 * log 2 0
6
6
0
4
4 5
5
Entropy (" Cukup" ) * log 2 * log 2
9 9
9
9
0.9911
5
5
Entropy (" kurang " ) 0 * log 2 0 * log 2
5
5
Entropy (Total )
TesWwncara
Total
i 1
* Entropy (TesWwncara )
9
5
6
*0
* 0.9911
*0
20
20
20
0.4460
Entropy (Total )
i 1
TesTulis
Total
* Entropy (TesTulis )
9
5
6
* 0.9183
* 0.9911
* 0.7219
20
20
20
0.9020
7
5
7
5
Entropy (" ya" )
* log 2
* log 2
12 12
12
12
0.9799
3
3 5
5
Entropy (" tidak " ) * log 2 * log 2
8 8
8
8
0.9544
Entropy (Total )
MmlikiMnat
Total
i 1
* Entropy ( MmlikiMnat )
8
12
* 0.9799
* 0.9544
20
20
0.9697
7
2
7
2
Entropy (" ya" ) * log 2 * log 2
9 9
9
9
0.7642
3
8
3
8
Entropy (" tidak " )
* log 2
* log 2
11 11
11
11
0.8454
Entropy (Total )
MmlikiBkat
Total
i 1
* Entropy ( MmlikiBkat )
11
9
* 0.7642
* 0.8454
20
20
0.8088
Tes Wawancara
Tes Wawancara memiliki 3 instance,
jika Tes Wawancara
Sangat Baik : Lulus
Cukup
: Bisa Lulus / Tidak Lulus
Kurang : Tidak Lulus
POHON PERTAMA
Tes
Wawancara
Sangat
Baik
Lulus
Kurang
Cuku
p
Tidak Lulus
Lakukan Qwery
Nama Data Base : Andika
Macam Atribut : Nama, Tes Wawancara, Tes Tulis,
Memiliki minat dan memiliki Bakat
1
Entropy (" lebih" ) * log 2 0 * log 2 0
1
1
2
2 5
5
Entropy (" cukup" ) * log 2 * log 2
7 7
7
7
0.8631
1
Entropy (" kurang " ) * log 2 0 * log 2 0
1
1
Entropy (Total )
i 1
umur
Total
* Entropy (umur )
7
1
1
* 0 * 0.8631 * 0
9
9
9
0.6713
1
Entropy (" sangatbaik " ) * log 2 0 * log 2 0
1
1
0
3
3 1
1
Entropy (" cukup" ) * log 2 * log 2
4
4
4
4
0.8113
4
4
Entropy (" kurang " ) 0 * log 2 0 * log 2
4
4
Entropy (Total )
i 1
TesTulis
Total
* Entropy (TesTulis )
4
4
1
* 0 * 0.9911 * 0
9
9
9
2
2 1
1
Entropy (" ya" ) * log 2 * log 2
3 3
3
3
0.9183
2
4
2
4
Entropy (" tidak " ) * log 2 * log 2
6 6
6
6
0.9183
Entropy (Total )
MmlikiMnat
Total
i 1
* Entropy ( MmlikiMnat )
6
3
* 0.9183 * 0.9183
9
9
0.9183
2
2 1
1
Entropy (" ya" ) * log 2 * log 2
3 3
3
3
0.9183
2
4
2
4
Entropy (" tidak " ) * log 2 * log 2
6 6
6
6
0.9183
Entropy (Total )
MmlikiBkat
Total
i 1
* Entropy ( MmlikiBkat )
6
3
* 0.9183 * 0.9183
9
9
0.9183
Tes Tulis
Tes Wawancara memiliki 3 instance,
jika Tes Wawancara
Sangat Baik : Lulus
Cukup
: Bisa Lulus / Tidak Lulus
Kurang : Tidak Lulus
POHON KEDUA
Tes
Wawancara
Sangat
Baik
Lulus
Sangat
Baik
Lulus
Kurang
Cuku
p
Tes
Tulis
Tidak Lulus
Kurang
Cuku
p
?
Lulus
1
Entropy (" lebih" ) * log 2 0 * log 2 0
1
1
1
1 1
1
Entropy (" cukup" ) * log 2 * log 2
2
2
2
2
1
1
Entropy (" kurang " ) * log 2 0 * log 2 0
1
1
Entropy (Total )
i 1
umur
Total
* Entropy (umur )
2
1
1
* 0 *1 * 0
4
4
4
0.5000
1
Entropy (" ya" ) * log 2 0 * log 2 0
1
1
0
2
2 1
1
Entropy (" tidak " ) * log 2 * log 2
3 3
3
3
0.9183
Entropy (Total )
MmlikiMnat
Total
i 1
* Entropy ( MmlikiMnat )
3
1
* 0 * 0.9183
4
4
0.6887
1
Entropy (" ya" ) * log 2 0 * log 2 0
1
1
0
2
2 1
1
Entropy (" tidak " ) * log 2 * log 2
3 3
3
3
0.9183
Entropy (Total )
MmlikiMnat
Total
i 1
* Entropy ( MmlikiMnat )
3
1
* 0 * 0.9183
4
4
0.6887
Umur
Umur memiliki 3 instance, jika Umur
lebih
Cukup
Kurang
: Lulus
: Bisa Lulus / Tidak Lulus
: Lulus
Tes
Wawancara
Sangat
Baik
POHON Ke Tiga
Lulus
Sangat
Baik
Cuku
p
Tes Tulis
Cuku
p
Lulus
Kurang
Tidak Lulus
Kurang
Umur
Lebih
Kurang
Lulus
?
Lulus
Cuku
p
Lulus
Entropy (Total )
i 1
MmlikiMnat
Total
* Entropy ( MmlikiMnat )
0 * 0 *1
2
1
Entropy (" ya" ) * log 2 0 * log 2 0
1
1
0
1
1
Entropy (" tidak " ) * log 2 0 * log 2 0
1
1
Entropy (Total )
MmlikiMnat
Total
i 1
* Entropy ( MmlikiMnat )
1
1
*0 *0
2
2
0
Memiliki Bakat
Umur memiliki 2 instance, jika Umur
Ya
: Lulus
Tidak : Tidak Lulus
Tes
Wawancara
Sangat
Baik
POHON Ke Tiga
Lulus
Sangat
Baik
Cuku
p
Tes Tulis
Cuku
p
Lulus
Umur
Lebih
Kurang
Lulus
Ya
Lulus
Memiliki
Bakat
Tidak
Tidak Lulus
Kurang
Tidak Lulus
Kurang
Tidak Lulus
Cuku
p
Lulus
TERIMA
KASIH