Decision Tree

Fadhilah Dirayati, S.Kom., M.Kom

2222707

arifin, sistem informasi - udinus 1

Algoritma Decision Tree Induction

Fadhilah Dirayati, Sistem Informasi - UMITRA 2

Entropy & Information Gain

Fadhilah Dirayati, Sistem Informasi - UMITRA 3

Contoh Implementasi ID3
No Langit Suhu Kelembaban Berangin Bermain
1 Cerah Panas Tinggi Tidak Tidak
2 Cerah Panas Tinggi Ya Tidak
3 Mendung Panas Tinggi Tidak Ya
4 Hujan Sejuk Tinggi Tidak Ya
5 Hujan Dingin Normal Tidak Ya
6 Hujan Dingin Normal Ya Ya
7 Mendung Dingin Normal Ya Ya
8 Cerah Sejuk Tinggi Tidak Tidak
9 Cerah Dingin Normal Tidak Ya
10 Hujan Sejuk Normal Tidak Ya
11 Cerah Sejuk Normal Ya Ya
12 Mendung Sejuk Tinggi Ya Ya
13 Mendung Panas Normal Tidak Ya
14 Hujan Sejuk Tinggi Ya Tidak

Fadhilah Dirayati, Sistem Informasi - UMITRA 4

Penyelesaian
Jumlah Keputusan Bermain
Atribut Kasus
Entropy Inf.Gain
Ya Tidak
Keputusan (S) 14 10 4
Langit
Mendung 4 4 0
Hujan 5 4 1
Cerah 5 2 3
Suhu
Dingin 4 0 4
Sejuk 4 2 2
Panas 6 2 4
Kelembanan
Tinggi 7 4 3
Normal 7 7 0
Berangin
Ya 6 2 6
Tidak 6 4 2

Fadhilah Dirayati, Sistem Informasi - UMITRA 5

Contoh Perhitungan Entropy

Jumlah Keputusan Bermain

Atribut Entropy Inf.Gain
Kasus Ya Tidak
Keseluruhan(S) 14 10 4

Fadhilah Dirayati, Sistem Informasi - UMITRA 6

Perhitungan Entropy

Fadhilah Dirayati, Sistem Informasi - UMITRA 7

Penyelesaian

Jumlah Keputusan Bermain

Atribut Kasus
Entropy Inf.Gain
Ya Tidak
Keputusan (S) 14 10 4 0,8691
Langit
Mendung 4 4 0 0
Hujan 5 4 1 0,7219
Cerah 5 2 3 0,9710
Suhu
Dingin 4 0 4 0
Sejuk 4 2 2 1
Panas 6 2 4 0,9183
Kelembanan
Tinggi 7 4 3 0,9852
Normal 7 7 0 0
Berangin
Ya 6 2 6 0,8113
Tidak 6 4 2 0,9183

Fadhilah Dirayati, Sistem Informasi - UMITRA 8

Perhitungan Information Gain
Atribut Jumlah Kasus (S) Entropy
Langit
Mendung 4 0
Hujan 5 0,7219
Cerah 5 0,9710

Fadhilah Dirayati, Sistem Informasi - UMITRA 9

Perhitungan Information Gain
Atribut Jumlah Kasus (S) Entropy
Suhu
Dingin 4 0
Sejuk 4 1
Panas 6 0,9183

Fadhilah Dirayati, Sistem Informasi - UMITRA 10

Perhitungan Information Gain

Atribut Jumlah Kasus (S) Entropy

Kelembaban
Tinggi 7 0,9852
Normal 7 0

Fadhilah Dirayati, Sistem Informasi - UMITRA 11

Perhitungan Information Gain

Atribut Jumlah Kasus (S) Entropy

Berangin
Ya 8 0,8113
Tidak 6 0,9183

Fadhilah Dirayati, Sistem Informasi - UMITRA 12

Penyelesaian
Keputusan Bermain
Jumlah (Si )
Atribut Entropy Inf.Gain
Kasus (S)
Ya Tidak
Keseluruhan 14 10 4 0,8631
Langit 0,2585
Mendung 4 4 0 0
Hujan 5 4 1 0,7219
Cerah 5 2 3 0,9710
Atribut
Suhu 0,1839
dengan
Dingin 4 0 4 0
Inf.gain
Sejuk 4 2 2 1
terbesar
Panas 6 2 4 0,9183
dipilih
Kelembaban 0,3705
sebagai
Tinggi 7 4 3 0,9852
Normal 7 7 0 0
node
Berangin 0,0060
Ya 8 2 6 0,8113
Tidak 6 4 2 0,9183

Fadhilah Dirayati, Sistem Informasi - UMITRA 13

 Bentuk Decision Tree

Kelembaban
Tinggi Normal

No Langit Suhu Kelembaban Berangin Bermain No Langit Suhu Kelembaban Berangin Bermain
1 Cerah Panas Tinggi Tidak Tidak 5 Hujan Dingin Normal Tidak Ya
2 Cerah Panas Tinggi Ya Tidak 6 Hujan Dingin Normal Ya Ya
3 Mendung Panas Tinggi Tidak Ya 7 Mendung Dingin Normal Ya Ya
4 Hujan Sejuk Tinggi Tidak Ya 9 Cerah Dingin Normal Tidak Ya
8 Cerah Sejuk Tinggi Tidak Tidak 10 Hujan Sejuk Normal Tidak Ya
12 Mendung Sejuk Tinggi Ya Ya 11 Cerah Sejuk Normal Ya Ya
14 Hujan Sejuk Tinggi Ya Tidak 13 Mendung Panas Normal Tidak Ya

Fadhilah Dirayati, Sistem Informasi - UMITRA 14

Bentuk Decision Tree

Kelembaban

Tinggi Normal

? YA

Fadhilah Dirayati, Sistem Informasi - UMITRA 15

Lanjutan
Klasifikasi Keputusan untuk pergi bermain berdasarkan kondisi cuaca

No Langit Suhu Kelembaban Berangin Bermain

1 Cerah Panas Tinggi Tidak Tidak
2 Cerah Panas Tinggi Ya Tidak
3 Mendung Panas Tinggi Tidak Ya
4 Hujan Sejuk Tinggi Tidak Ya
8 Cerah Sejuk Tinggi Tidak Tidak
12 Mendung Sejuk Tinggi Ya Ya
14 Hujan Sejuk Tinggi Ya Tidak

Fadhilah Dirayati, Sistem Informasi - UMITRA 16

Penyelesaian

Jumlah Keputusan Bermain

Atribut Entropy Inf.Gain
Kasus
Ya Tidak
Keseluruhan (S) 7 3 4
Langit
Mendung 2 2 0
Hujan 2 1 1
Cerah 3 0 3
Suhu
Dingin 0 0 0
Sejuk 4 2 2
Panas 3 1 2
Berangin
Ya 3 1 2
Tidak 4 2 2

Fadhilah Dirayati, Sistem Informasi - UMITRA 17

Perhitungan Entropy

Fadhilah Dirayati, Sistem Informasi - UMITRA 18

Penyelesaian

Jumlah Keputusan Bermain

Atribut Entropy Inf.Gain
Kasus
Ya Tidak
Keseluruhan (S) 7 3 4 0,9852
Langit
Mendung 2 2 0 0
Hujan 2 1 1 1
Cerah 3 0 3 0
Suhu
Dingin 0 0 0 0
Sejuk 4 2 2 1
Panas 3 1 2 0.9183
Berangin
Ya 3 1 2 0.9183
Tidak 4 2 2 1

Fadhilah Dirayati, Sistem Informasi - UMITRA 19

Perhitungan Information Gain

Atribut Jumlah Kasus (S) Entropy

Langit
Mendung 2 0
Hujan 2 1
Cerah 3 0

Fadhilah Dirayati, Sistem Informasi - UMITRA 20

Perhitungan Information Gain

Atribut Jumlah Kasus (S) Entropy

Suhu
Dingin 0 0
Sejuk 4 1
Panas 3 0,9183

Fadhilah Dirayati, Sistem Informasi - UMITRA 21

Perhitungan Information Gain

Atribut Jumlah Kasus (S) Entropy

Berangin
Ya 8 0,9183
Tidak 6 1

Fadhilah Dirayati, Sistem Informasi - UMITRA 22

Penyelesaiannya
Atribut
Jumlah Keputusan Bermain dengan
Atribut Entropy Inf.Gain
Kasus Inf.gain
Ya Tidak
terbesar
Keseluruhan 7 3 4 0,9852
dipilih
Langit 0,6995
sebagai
Mendung 2 2 0 0
node
Hujan 2 1 1 1
Cerah 3 0 3 0
Suhu 0,0202
Dingin 0 0 0 0
Sejuk 4 2 2 1
Panas 3 1 2 0,9183
Berangin 0,0202
Ya 3 1 2 0,9183
Tidak 4 2 2 1

Fadhilah Dirayati, Sistem Informasi - UMITRA 23

Bentuk Decision Tree
Kelembaban

Tinggi Normal

Langit Ya
Mendung Cerah

Hujan

Fadhilah Dirayati, Sistem Informasi - UMITRA 24

Bentuk Decision Tree

Kelembaban
Tinggi Normal

Langit YA
Mendung Cerah

TIDAK
YA
Hujan

?
Fadhilah Dirayati, Sistem Informasi - UMITRA 25
Lanjutan
Klasifikasi Keputusan untuk pergi bermain berdasarkan kondisi cuaca

No Langit Suhu Kelembaban Berangin Bermain

4 Hujan Sejuk Tinggi Tidak Ya
14 Hujan Sejuk Tinggi Ya Tidak

Fadhilah Dirayati, Sistem Informasi - UMITRA 26

Penyelesaian

Keputusan
Jumlah Bermain
Atribut Entropy Inf.Gain
Kasus
Ya Tidak
Keseluruhan 2 1 1
(S)
Suhu
Dingin 0 0 0
Sejuk 2 1 1
Panas 0 0 0
Berangin
Ya 1 0 1
Tidak 1 1 0

Fadhilah Dirayati, Sistem Informasi - UMITRA 27

Perhitungan Entropy

Fadhilah Dirayati, Sistem Informasi - UMITRA 28

Penyelesaian

Keputusan
Jumlah Bermain
Atribut Entropy Inf.Gain
Kasus
Ya Tidak
Keseluruhan 2 1 1 1
(S)
Suhu
Dingin 0 0 0 0
Sejuk 2 1 1 1
Panas 0 0 0 0
Berangin
Ya 1 0 1 0
Tidak 1 1 0 0

Fadhilah Dirayati, Sistem Informasi - UMITRA 29

Perhitungan Information Gain

Atribut Jumlah Kasus (S) Entropy

Suhu
Dingin 0 0
Sejuk 2 1
Panas 0 0

Fadhilah Dirayati, Sistem Informasi - UMITRA 30

Perhitungan Information Gain

Atribut Jumlah Kasus (S) Entropy

Berangin
Ya 1 0
Tidak 1 0

Fadhilah Dirayati, Sistem Informasi - UMITRA 31

Penyelesaiannya

Keputusan
Jumlah Bermain
Atribut Entropy Inf.Gain
Kasus
Ya Tidak
Keseluruh 2 1 1 2
an Atribut
Suhu 0 dengan
Dingin 0 0 0 0 Inf.gain
terbesar
Sejuk 2 1 1 1
dipilih
Panas 0 0 0 0 sebagai
Berangin 1 node
Ya 1 0 1 0
Tidak 1 1 0 0

Fadhilah Dirayati, Sistem Informasi - UMITRA 32

Bentuk Decision Tree
Kelembaban
Tinggi Normal

Langit YA
Mendung Cerah

TIDAK
YA

Berangin

Ya Tidak

TIDAK YA

Fadhilah Dirayati, Sistem Informasi - UMITRA 33

 TERIMA KASIH

Fadhilah Dirayati, sistem informasi - UMITRA