Anda di halaman 1dari 119

DECISION TREE

ANDIKA PRASETYA PUTRA


120411100099

DECISION TREE
Mengubah data menjadi sebuah
pohon keputusan yang terdapat
aturan-aturan keputusan
Menggunakan nilai Terbesar dari
Entropy yang digunakan sebagai root
pertama dalam sebuah pohon.

NOTASI YANG DI
GUNAKAN
: digunakan untuk atribut

: digunakan untuk probabilitas

: digunakan untuk penghubung

ENTROPY (S):
Adalah suatu parameter untuk mengukur tingkat
keberagaman (heterogenitas) dari kumpulan
data.
n

Entropy ( S ) pi (c) * Log 2 pi (c)


i 1

Beberapa contoh pemakaian


decision tree :

INFORMATION GAIN
Merupakan ukuran efektifitas suatu
attribut dalam mengklasifikasikan
data.
n

Gain ( S , A) Entropy ( S )
i 1

Si
* Entropy ( Si )
S

Playing Tennis Data

Entropy total :
Jumlah Data = 20
Jumlah lulus
= 10
Jumlah tidak lulus = 10
10
10 10
10
Entropy (Total )
* log 2
* log 2

20 20
20
20
1

Entropy (lebih) pada Umur


Jumlah Data = 4
Jumlah lulus
=3
Jumlah tidak lulus = 1

3
3 1
1
Entropy (" lebih" ) * log 2 * log 2
4
4
4
4
0.8113

Entropy (cukup) pada


Umur
Jumlah Data = 13
Jumlah lulus
=4
Jumlah tidak lulus = 9

4
9
4
9
Entropy (" cukup" )
* log 2
* log 2

13 13
13
13
0.8905

Entropy (kurang) pada


Umur
Jumlah Data = 3
Jumlah lulus
=3
Jumlah tidak lulus = 0

3
Entropy (" kurang " ) * log 2 0 * log 2 0
3
3

Information Gain Pada


Umur
3

Gain(Total , umur ) Entropy (Total )


i 1

umur
Total

* Entropy (umur )

13
3
4

* 0.8113
* 0.8905
*0
20
20
20
0.2589
1

Entropy pada Tes Wawancara


6

6
Entropy (" SangatBaik " ) * log 2 0 * log 2 0
6
6

0
4
4 5
5
Entropy (" Cukup" ) * log 2 * log 2
9 9
9
9
0.9911

5
5
Entropy (" kurang " ) 0 * log 2 0 * log 2
5
5

Information Gain Pada Tes


Wawancara
3

Gain(Total , TesWwncara ) Entropy (Total )


i 1

TesWwncara
Total

9
5
6

*0
* 0.9911
*0
20
20
20
0.5540
1

* Entropy (TesWwncara )

Entropy pada Tes Tulis


4
2
4
2
Entropy (" sangatbaik " ) * log 2 * log 2
6 6
6
6
0.9183
5
4
5
4
Entropy (" cukup" ) * log 2 * log 2
9 9
9
9
0.9911
1
4
1
4
Entropy (" kurang " ) * log 2 * log 2
5 5
5
5
0.7219

Information Gain Pada Tes


Tulis
3

Gain(Total , TesTulis ) Entropy (Total )


i 1

TesTulis
Total

* Entropy (TesTulis )

9
5
6

* 0.9183
* 0.9911
* 0.7219
20
20
20

0.0980
1

Entropy pada Memiliki Minat

7
5
7
5
Entropy (" ya" )
* log 2
* log 2

12 12
12
12
0.9799
3
3 5
5
Entropy (" tidak " ) * log 2 * log 2
8 8
8
8
0.9544

Information Gain Pada


Memiliki Minat
3

Gain(Total , MmlikiMnat ) Entropy (Total )


i 1

MmlikiMnat
Total

8
12

* 0.9799
* 0.9544
20
20

0.0303
1

* Entropy ( MmlikiMnat )

Entropy pada Memiliki Bakat

7
2
7
2
Entropy (" ya" ) * log 2 * log 2
9 9
9
9
0.7642
3
8
3
8
Entropy (" tidak " )
* log 2
* log 2

11 11
11
11
0.8454

Information Gain Pada


Memiliki Bakat
3

Gain(Total , MmlikiBkat ) Entropy (Total )


i 1

MmlikiBkat
Total

11
9

* 0.7642
* 0.8454
20
20

0.1912
1

* Entropy ( MmlikiBkat )

Semua Data Information Gain


Umur
: 0.2589
Tes Wawancara : 0.5540
Tes Tulis
: 0.0980
Memiliki Minat : 0.0303
Memiliki Bakat : 0.1912
Maximum Infirmation Gain : 0.5540

Tes Wawancara
Tes Wawancara memiliki 3 instance,
jika Tes Wawancara
Sangat Baik : Lulus
Cukup
: Bisa Lulus / Tidak Lulus
Kurang : Tidak Lulus

POHON PERTAMA
Tes
Wawancara
Sangat
Baik

Lulus

Kurang

Cuku
p

Tidak Lulus

Lakukan Qwery
Nama Data Base : Andika
Macam Atribut : Nama, Tes Wawancara, Tes Tulis,
Memiliki minat dan memiliki Bakat

SELECT Andika.[Nama], Andika.[Umur], Andika.[Tes


Wawancara], Andika.[Tes Tulis], Andika.[Memiliki Minat],
Andika.[Memiliki Bakat], Andika.[Keputusan]
FROM Andika where Andika.[Tes Wawancara]=Cukup

Hasil dari Qwery

Entropy total :
Jumlah Data = 9
Jumlah lulus
=4
Jumlah tidak lulus = 5
4
5
4
5
Entropy (Total )
* log 2
* log 2
9
9
9
9
0.9911

Entropy (lebih) pada Umur


Jumlah Data = 1
Jumlah lulus
=1
Jumlah tidak lulus = 0

1
Entropy (" lebih" ) * log 2 0 * log 2 0
1
1

Entropy (cukup) pada Umur


Jumlah Data = 7
Jumlah lulus
=2
Jumlah tidak lulus = 5

2
2 5
5
Entropy (" cukup" ) * log 2 * log 2
7 7
7
7
0.8631

Entropy (kurang) pada Umur


Jumlah Data = 1
Jumlah lulus
=1
Jumlah tidak lulus = 0

1
Entropy (" kurang " ) * log 2 0 * log 2 0
1
1

Information Gain Pada


Umur
3

Gain(Total , umur ) Entropy (Total )


i 1

umur
Total

* Entropy (umur )

7
1
1
* 0 * 0.8631 * 0
9
9
9

0.9911
0.3198

Entropy pada Tes Tulis


1

1
Entropy (" sangatbaik " ) * log 2 0 * log 2 0
1
1

0
3
3 1
1
Entropy (" cukup" ) * log 2 * log 2
4
4
4
4
0.8113

4
4
Entropy (" kurang " ) 0 * log 2 0 * log 2
4
4

Information Gain Pada Tes


Tulis
3

Gain(Total , TesTulis ) Entropy (Total )


i 1

TesTulis
Total

* Entropy (TesTulis )

4
4
1
* 0 * 0.9911 * 0
9
9
9

0.9911
0.6305

Entropy pada Memiliki Minat

2
2 1
1
Entropy (" ya" ) * log 2 * log 2
3 3
3
3
0.9183
2
4
2
4
Entropy (" tidak " ) * log 2 * log 2
6 6
6
6
0.9183

Information Gain Pada


Memiliki Minat
3

Gain(Total , MmlikiMnat ) Entropy (Total )


i 1

MmlikiMnat
Total

6
3

* 0.9183 * 0.9183
9
9

0.9911
0.0728

* Entropy ( MmlikiMnat )

Entropy pada Memiliki Bakat

2
2 1
1
Entropy (" ya" ) * log 2 * log 2
3 3
3
3
0.9183
2
4
2
4
Entropy (" tidak " ) * log 2 * log 2
6 6
6
6
0.9183

Information Gain Pada


Memiliki Bakat
3

Gain(Total , MmlikiBkat ) Entropy (Total )

MmlikiBkat

i 1

6
3

* 0.9183 * 0.9183
9
9

0.0728
1

Total

* Entropy ( MmlikiBkat )

Semua Data Information Gain


Umur
: 0.3198
Tes Tulis
: 0.6305
Memiliki Minat : 0.0728
Memiliki Bakat : 0.0728

Maximum Infirmation Gain : 0.6305

Tes Tulis
Tes Wawancara memiliki 3 instance,
jika Tes Wawancara
Sangat Baik : Lulus
Cukup
: Bisa Lulus / Tidak Lulus
Kurang : Tidak Lulus

POHON KEDUA
Tes
Wawancara
Sangat
Baik

Lulus
Sangat
Baik

Lulus

Kurang
Cuku
p

Tes
Tulis

Tidak Lulus

Kurang

Cuku
p
?

Lulus

Lakukan Qwery Kedua


Nama Data Base : Andika
Macam Atribut : Nama, Tes Wawancara, Tes Tulis,
Memiliki minat dan memiliki Bakat

SELECT Andika.[Nama], Andika.[Umur], Andika.[Tes Wawancara],


Andika.[Tes Tulis], Andika.[Memiliki Minat], Andika.[Memiliki Bakat],
Andika.[Keputusan]
FROM Andika where Andika.[Tes Wawancara]=Cukup and Andika.
[Tes Tulis]=Cukup

Hasil Qwery Kedua

Entropy total :
Jumlah Data = 4
Jumlah lulus
=3
Jumlah tidak lulus = 1
3
1
3
1
Entropy (Total )
* log 2
* log 2

4
4
4
4
0.8113

Entropy (lebih) pada Umur


Jumlah Data = 1
Jumlah lulus
=1
Jumlah tidak lulus = 0

1
Entropy (" lebih" ) * log 2 0 * log 2 0
1
1

Entropy (cukup) pada Umur


Jumlah Data = 2
Jumlah lulus
=1
Jumlah tidak lulus = 1

1
1 1
1
Entropy (" cukup" ) * log 2 * log 2
2
2
2
2
1

Entropy (kurang) pada Umur


Jumlah Data = 1
Jumlah lulus
=1
Jumlah tidak lulus = 0

1
Entropy (" kurang " ) * log 2 0 * log 2 0
1
1

Information Gain Pada


Umur
3

Gain(Total , umur ) Entropy (Total )


i 1

umur
Total

* Entropy (umur )

2
1
1

* 0 *1 * 0
4
4
4

0.9911
0.3113

Entropy pada Memiliki Minat

1
Entropy (" ya" ) * log 2 0 * log 2 0
1
1

0
2
2 1
1
Entropy (" tidak " ) * log 2 * log 2
3 3
3
3
0.9183

Information Gain Pada


Memiliki Minat
3

Gain(Total , MmlikiMnat ) Entropy (Total )

MmlikiMnat

i 1

3
1

* 0 * 0.9183
4
4

0.9911
0.1226

Total

* Entropy ( MmlikiMnat )

Entropy pada Memiliki Bakat

1
Entropy (" ya" ) * log 2 0 * log 2 0
1
1

0
2
2 1
1
Entropy (" tidak " ) * log 2 * log 2
3 3
3
3
0.9183

Information Gain Pada


Memiliki Bakat
3

Gain(Total , MmlikiMnat ) Entropy (Total )

MmlikiMnat

i 1

3
1

* 0 * 0.9183
4
4

0.9911
0.1226

Total

* Entropy ( MmlikiMnat )

Semua Data Information Gain


Umur
: 0.3113
Memiliki Minat : 0.1226
Memiliki Bakat : 0.1226

Maximum Infirmation Gain : 0.3113

Umur
Umur memiliki 3 instance, jika Umur
lebih
Cukup
Kurang

: Lulus
: Bisa Lulus / Tidak Lulus
: Lulus

Tes
Wawancara

Sangat
Baik

POHON Ke Tiga
Lulus
Sangat
Baik

Cuku
p
Tes Tulis

Cuku
p

Lulus

Kurang

Tidak Lulus
Kurang

Umur

Lebih
Kurang
Lulus

Lulus
Cuku
p

?
Lulus

Lakukan Qwery Kedua


Nama Data Base : Andika
Macam Atribut : Nama, Tes Wawancara, Tes Tulis,
Memiliki minat dan memiliki Bakat

SELECT Andika.[Nama], Andika.[Umur], Andika.[Tes Wawancara],


Andika.[Tes Tulis], Andika.[Memiliki Minat], Andika.[Memiliki Bakat],
Andika.[Keputusan]
FROM Andika where Andika.[Tes Wawancara]=Cukup and Andika.
[Tes Tulis]=Cukup and Andika.[Umur]=cukup

Hasil Qwery Kedua

Entropy total :
Jumlah Data = 2
Jumlah lulus
=1
Jumlah tidak lulus = 1
1
1
1
1
Entropy (Total )
* log 2
* log 2

2
2
2
2
1

Entropy pada Memiliki Minat

Entropy (" ya" ) 0 * log 2 0 0 * log 2 0


0
1
1 1
1
Entropy (" tidak " ) * log 2 * log 2
2
2
2
2
1

Information Gain Pada


Memiliki Minat
3

Gain(Total , MmlikiMnat ) Entropy (Total )


i 1

1 0 * 0 *1
2

MmlikiMnat
Total

* Entropy ( MmlikiMnat )

Entropy pada Memiliki Bakat

1
Entropy (" ya" ) * log 2 0 * log 2 0
1
1

0
1

1
Entropy (" tidak " ) * log 2 0 * log 2 0
1
1

Information Gain Pada


Memiliki Bakat
3

Gain(Total , MmlikiMnat ) Entropy (Total )


i 1

1
1

*0 *0
2
2

1
1

MmlikiMnat
Total

* Entropy ( MmlikiMnat )

Semua Data Information Gain


Memiliki Minat : 0
Memiliki Bakat : 1

Maximum Infirmation Gain : 1

Memiliki Bakat
Umur memiliki 2 instance, jika Umur
Ya
: Lulus
Tidak : Tidak Lulus

Tes
Wawancara

Sangat
Baik

POHON Ke Tiga
Lulus
Sangat
Baik

Cuku
p
Tes Tulis

Cuku
p

Lulus

Umur

Lebih
Kurang
Lulus
Ya
Lulus

Memiliki
Bakat
Tidak
Tidak Lulus

Kurang

Tidak Lulus
Kurang
Tidak Lulus
Cuku
p
Lulus

MINIMUM
DECISION TREE

DECISION TREE
Menggunakan nilai Terkecil dari
Entropy yang digunakan sebagai root
pertama dalam sebuah pohon.

Entropy (lebih) pada Umur


Jumlah Data = 4
Jumlah lulus
=3
Jumlah tidak lulus = 1

3
3 1
1
Entropy (" lebih" ) * log 2 * log 2
4
4
4
4
0.8113

Entropy (cukup) pada


Umur
Jumlah Data = 13
Jumlah lulus
=4
Jumlah tidak lulus = 9

4
9
4
9
Entropy (" cukup" )
* log 2
* log 2

13 13
13
13
0.8905

Entropy (kurang) pada


Umur
Jumlah Data = 3
Jumlah lulus
=3
Jumlah tidak lulus = 0

3
Entropy (" kurang " ) * log 2 0 * log 2 0
3
3

Entropy Total Pada


Umur
3

Entropy (Total )
i 1

umur
Total

* Entropy (umur )

13
3
4

* 0.8113
* 0.8905
*0
20
20
20
0.7411

Entropy pada Tes Wawancara


6

6
Entropy (" SangatBaik " ) * log 2 0 * log 2 0
6
6

0
4
4 5
5
Entropy (" Cukup" ) * log 2 * log 2
9 9
9
9
0.9911

5
5
Entropy (" kurang " ) 0 * log 2 0 * log 2
5
5

Entropy Total Pada Tes


Wawancara
3

Entropy (Total )

TesWwncara
Total

i 1

* Entropy (TesWwncara )

9
5
6

*0
* 0.9911
*0
20
20
20
0.4460

Entropy pada Tes Tulis


4
2
4
2
Entropy (" sangatbaik " ) * log 2 * log 2
6 6
6
6
0.9183
5
4
5
4
Entropy (" cukup" ) * log 2 * log 2
9 9
9
9
0.9911
1
4
1
4
Entropy (" kurang " ) * log 2 * log 2
5 5
5
5
0.7219

Entropy Total Pada Tes Tulis

Entropy (Total )
i 1

TesTulis
Total

* Entropy (TesTulis )

9
5
6

* 0.9183
* 0.9911
* 0.7219
20
20
20

0.9020

Entropy pada Memiliki Minat

7
5
7
5
Entropy (" ya" )
* log 2
* log 2

12 12
12
12
0.9799
3
3 5
5
Entropy (" tidak " ) * log 2 * log 2
8 8
8
8
0.9544

Entropy Total Pada Memiliki


Minat
3

Entropy (Total )

MmlikiMnat
Total

i 1

* Entropy ( MmlikiMnat )

8
12

* 0.9799
* 0.9544
20
20

0.9697

Entropy pada Memiliki Bakat

7
2
7
2
Entropy (" ya" ) * log 2 * log 2
9 9
9
9
0.7642
3
8
3
8
Entropy (" tidak " )
* log 2
* log 2

11 11
11
11
0.8454

Entropy Total Pada Memiliki


Bakat
3

Entropy (Total )

MmlikiBkat
Total

i 1

* Entropy ( MmlikiBkat )

11
9

* 0.7642
* 0.8454
20
20

0.8088

Semua Data Information Gain


Umur : 0.7411
Tes Wawancara : 0.4460
Tes Tulis : 0.9020
Memiliki Minat : 0.9697
Memiliki Bakat : 0.8088
Minimum dari semua Entropy = Tes
Wwancara

Tes Wawancara
Tes Wawancara memiliki 3 instance,
jika Tes Wawancara
Sangat Baik : Lulus
Cukup
: Bisa Lulus / Tidak Lulus
Kurang : Tidak Lulus

POHON PERTAMA
Tes
Wawancara
Sangat
Baik

Lulus

Kurang

Cuku
p

Tidak Lulus

Lakukan Qwery
Nama Data Base : Andika
Macam Atribut : Nama, Tes Wawancara, Tes Tulis,
Memiliki minat dan memiliki Bakat

SELECT Andika.[Nama], Andika.[Umur], Andika.[Tes


Wawancara], Andika.[Tes Tulis], Andika.[Memiliki Minat],
Andika.[Memiliki Bakat], Andika.[Keputusan]
FROM Andika where Andika.[Tes Wawancara]=Cukup

Hasil dari Qwery

Entropy (lebih) pada Umur


Jumlah Data = 1
Jumlah lulus
=1
Jumlah tidak lulus = 0

1
Entropy (" lebih" ) * log 2 0 * log 2 0
1
1

Entropy (cukup) pada Umur


Jumlah Data = 7
Jumlah lulus
=2
Jumlah tidak lulus = 5

2
2 5
5
Entropy (" cukup" ) * log 2 * log 2
7 7
7
7
0.8631

Entropy (kurang) pada Umur


Jumlah Data = 1
Jumlah lulus
=1
Jumlah tidak lulus = 0

1
Entropy (" kurang " ) * log 2 0 * log 2 0
1
1

Entropy Total Pada


Umur
3

Entropy (Total )
i 1

umur
Total

* Entropy (umur )

7
1
1
* 0 * 0.8631 * 0
9
9
9
0.6713

Entropy pada Tes Tulis


1

1
Entropy (" sangatbaik " ) * log 2 0 * log 2 0
1
1

0
3
3 1
1
Entropy (" cukup" ) * log 2 * log 2
4
4
4
4
0.8113

4
4
Entropy (" kurang " ) 0 * log 2 0 * log 2
4
4

Entropy Total Pada Tes Tulis

Entropy (Total )
i 1

TesTulis
Total

* Entropy (TesTulis )

4
4
1
* 0 * 0.9911 * 0
9
9
9

Entropy pada Memiliki Minat

2
2 1
1
Entropy (" ya" ) * log 2 * log 2
3 3
3
3
0.9183
2
4
2
4
Entropy (" tidak " ) * log 2 * log 2
6 6
6
6
0.9183

Information Gain Pada


Memiliki Minat
3

Entropy (Total )

MmlikiMnat
Total

i 1

* Entropy ( MmlikiMnat )

6
3

* 0.9183 * 0.9183
9
9

0.9183

Entropy pada Memiliki Bakat

2
2 1
1
Entropy (" ya" ) * log 2 * log 2
3 3
3
3
0.9183
2
4
2
4
Entropy (" tidak " ) * log 2 * log 2
6 6
6
6
0.9183

Entropy Total Pada Memiliki


Bakat
3

Entropy (Total )

MmlikiBkat
Total

i 1

* Entropy ( MmlikiBkat )

6
3

* 0.9183 * 0.9183
9
9

0.9183

Semua Data Information Gain


Umur
: 0.6713
Tes Tulis
: 0
Memiliki Minat : 0.9183
Memiliki Bakat : 0.9183

Minimum dari semua Entropy = Tes


tulis

Tes Tulis
Tes Wawancara memiliki 3 instance,
jika Tes Wawancara
Sangat Baik : Lulus
Cukup
: Bisa Lulus / Tidak Lulus
Kurang : Tidak Lulus

POHON KEDUA
Tes
Wawancara
Sangat
Baik

Lulus
Sangat
Baik

Lulus

Kurang
Cuku
p

Tes
Tulis

Tidak Lulus

Kurang

Cuku
p
?

Lulus

Lakukan Qwery Kedua


Nama Data Base : Andika
Macam Atribut : Nama, Tes Wawancara, Tes Tulis,
Memiliki minat dan memiliki Bakat

SELECT Andika.[Nama], Andika.[Umur], Andika.[Tes Wawancara],


Andika.[Tes Tulis], Andika.[Memiliki Minat], Andika.[Memiliki Bakat],
Andika.[Keputusan]
FROM Andika where Andika.[Tes Wawancara]=Cukup and Andika.
[Tes Tulis]=Cukup

Hasil Qwery Kedua

Entropy (lebih) pada Umur


Jumlah Data = 1
Jumlah lulus
=1
Jumlah tidak lulus = 0

1
Entropy (" lebih" ) * log 2 0 * log 2 0
1
1

Entropy (cukup) pada Umur


Jumlah Data = 2
Jumlah lulus
=1
Jumlah tidak lulus = 1

1
1 1
1
Entropy (" cukup" ) * log 2 * log 2
2
2
2
2
1

Entropy (kurang) pada Umur


Jumlah Data = 1
Jumlah lulus
=1
Jumlah tidak lulus = 0

1
Entropy (" kurang " ) * log 2 0 * log 2 0
1
1

Entropy total Pada


Umur
3

Entropy (Total )
i 1

umur
Total

* Entropy (umur )

2
1
1

* 0 *1 * 0
4
4
4
0.5000

Entropy pada Memiliki Minat

1
Entropy (" ya" ) * log 2 0 * log 2 0
1
1

0
2
2 1
1
Entropy (" tidak " ) * log 2 * log 2
3 3
3
3
0.9183

Entropy Total Pada Memiliki


Minat
3

Entropy (Total )

MmlikiMnat
Total

i 1

* Entropy ( MmlikiMnat )

3
1

* 0 * 0.9183
4
4

0.6887

Entropy pada Memiliki Bakat

1
Entropy (" ya" ) * log 2 0 * log 2 0
1
1

0
2
2 1
1
Entropy (" tidak " ) * log 2 * log 2
3 3
3
3
0.9183

Entropy Total Pada Memiliki


Bakat
3

Entropy (Total )

MmlikiMnat
Total

i 1

* Entropy ( MmlikiMnat )

3
1

* 0 * 0.9183
4
4

0.6887

Semua Data Information Gain


Umur
: 0.5000
Memiliki Minat : 0.6887
Memiliki Bakat : 0.6887

Minimum dari semua Entropy =


Umur

Umur
Umur memiliki 3 instance, jika Umur
lebih
Cukup
Kurang

: Lulus
: Bisa Lulus / Tidak Lulus
: Lulus

Tes
Wawancara

Sangat
Baik

POHON Ke Tiga
Lulus
Sangat
Baik

Cuku
p
Tes Tulis

Cuku
p

Lulus

Kurang

Tidak Lulus
Kurang

Umur

Lebih
Kurang
Lulus
?

Lulus
Cuku
p
Lulus

Lakukan Qwery Kedua


Nama Data Base : Andika
Macam Atribut : Nama, Tes Wawancara, Tes Tulis,
Memiliki minat dan memiliki Bakat

SELECT Andika.[Nama], Andika.[Umur], Andika.[Tes Wawancara],


Andika.[Tes Tulis], Andika.[Memiliki Minat], Andika.[Memiliki Bakat],
Andika.[Keputusan]
FROM Andika where Andika.[Tes Wawancara]=Cukup and Andika.
[Tes Tulis]=Cukup and Andika.[Umur]=cukup

Hasil Qwery Kedua

Entropy pada Memiliki Minat

Entropy (" ya" ) 0 * log 2 0 0 * log 2 0


0
1
1 1
1
Entropy (" tidak " ) * log 2 * log 2
2
2
2
2
1

Information Gain Pada


Memiliki Minat
3

Entropy (Total )
i 1

MmlikiMnat
Total

* Entropy ( MmlikiMnat )

0 * 0 *1
2

Entropy pada Memiliki Bakat

1
Entropy (" ya" ) * log 2 0 * log 2 0
1
1

0
1

1
Entropy (" tidak " ) * log 2 0 * log 2 0
1
1

Information Gain Pada


Memiliki Bakat
3

Entropy (Total )

MmlikiMnat
Total

i 1

* Entropy ( MmlikiMnat )

1
1

*0 *0
2
2
0

Semua Data Information Gain


Memiliki Minat : 1
Memiliki Bakat : 0

Minimum dari semua Entropy =


Umur

Memiliki Bakat
Umur memiliki 2 instance, jika Umur
Ya
: Lulus
Tidak : Tidak Lulus

Tes
Wawancara

Sangat
Baik

POHON Ke Tiga
Lulus
Sangat
Baik

Cuku
p
Tes Tulis

Cuku
p

Lulus

Umur

Lebih
Kurang
Lulus
Ya
Lulus

Memiliki
Bakat
Tidak
Tidak Lulus

Kurang

Tidak Lulus
Kurang
Tidak Lulus
Cuku
p
Lulus

TERIMA
KASIH

Anda mungkin juga menyukai