Probabilitas Bersyarat
S X XY
P( X Y ) P( X | Y ) = P(Y )
Probabilitas X di dalam Y adalah probabilitas interseksi X dan Y dari probabilitas Y, atau dengan bahasa lain P(X|Y) adalah d l h prosentase b banyaknya k X di d dalam l Y
Contoh
Tidak melanjutkan j ke perguruan tinggi 50 250
Perhatikan kejadian kejadian berikut : L : kejadian yang terpilih laki - laki j y yang g terpilih adalah orang gy yang g K: kejadian melanjutkan ke perguruan tinggi Dengan menggunakan ruang contoh yang dipersempit K, maka akan didapatkan Peluang kejadian terpilih laki-laki untuk orang yang melanj tkan ke perg melanjutkan perguruan r an tinggi tinggi. P(L|K) = ?
n(K L) n(K L)/ n(S) P(K L) P(L| K) = = = , n(K) n(K)/ n(S) P(K)
450 1 P( K L) = = 900 2
600 2 P( K ) = = 900 3
1/ 2 3 P( L | K ) = = 2/3 4
Contoh lain
Peluang Kereta Api Gajayana berangkat tepat pada waktunya adalah P(B) = 0 0.85, 85 peluang Kereta Api Gajayana datang tepat pada waktunya adalah P(D) = 0.90 dan peluang kereta api tersebut berangkat dan datang tepat pada waktunya adalah P(BD) = 0 0.75. 75 Hitung peluang bahwa Kereta Api Gajayana itu (a) datang tepat pada waktunya bila diketahui kereta api tersebut b berangkat b k tepat pada d waktunya, k d dan (b) berangkat tepat pada waktunya bila diketahui kereta api tersebut datang g tepat p p pada waktunya. y
P(Olahraga=Ya) = 4/6
Banyaknya data cuaca=cerah cuaca cerah dan berolah-raga=ya berolah raga ya adalah 4 dari 6 data maka dituliskan
P(Olahraga=Ya) = 3/6
Banyaknya data cuaca=cerah cuaca cerah, temperatur=normal temperatur normal dan berolahberolah raga=ya adalah 2 dari 6 data maka dituliskan
Kaidah Bayes
A B Bc
Contoh 1
Tiga wakil partai A, B dan C mencalonkan diri sebagai presiden Peluang wakil dari partai A terpilih sebagai presiden. presiden adalah 0.4, peluang wakil dari partai B terpilih adalah 0.3 dan peluang wakil dari partai C terpilih adalah 0 3 Seandainya wakil dari partai A terpilih sebagai 0.3. presiden, peluang terjadinya kenaikan harga BBM adalah 0.7. Seandainya yang terpilih adalah wakil dari partai B, B peluang terjadinya kenaikan harga BBM adalah 0.4. Bila yang terpilih adalah wakil dari partai C maka peluang terjadinya kenaikan harga BBM adalah 0.6. Berapa peluang terjadinya kenaikan harga BBM ?
Contoh 2
Sebuah toko menjual bola lampu. Empat puluh lima persen dari bola lampu yang dijual toko tersebut diproduksi oleh pabrik A dan sisanya diproduksi oleh pabrik B.Bola lampu yang diproduksi pabrik A mempunyai peluang cacat sebesar 3 persen sedangkan yang diproduksi pabrik B mempunyai peluang cacat sebesar 5 persen. Bila Bil seseorang membeli b li b bola l l lampu d dari i toko tersebut, berapa peluang dia akan mendapatkan p bola lampu p y yang g cacat?
Kaidah Bayes
Jika kejadian j kejadian j B1, B2, , Bk merupakan sekatan dari ruang contoh S dengan g P(Bi) ( ) 0 untuk I = 1, 2, , k, maka untuk sembarang kejadian A yang bersifat P(A) ( ) 0,
P(Br )P(A| Br ) P(Br | A) = P(B 1)P(A| B 1) + P(B2)P(A| B2) +...+ P(Bk )P(A| Bk )
Untuk masalah dalam Contoh 1 misalkan ada orang yang tidak mengetahui siapa yang y g menjadi j p presiden karena dia tinggal gg di pelosok daerah. Bila beberapa waktu y harga g BBM naik, kemudian ternyata berapa peluang bahwa yang menjadi presiden adalah wakil dari partai A?
Untuk masalah p pada contoh 2, misalkan ada seseorang yang membeli bola lampu dari p rumah dan toko tersebut. Setelah sampai dicoba, ternyata lampu tersebut cacat. p p peluang g bahwa lampu p tersebut Berapa diproduksi oleh pabrik A?
Bn
P( Bk ) P( A | Bk ) P( Bk | A) = P( Bi ) P( A | Bi )
i
P ( Bk ) P ( A | Bk ) P ( Bk | A) = P( A)
P(Bk|A) ( | ) disebut keadaan Posterior (Probabilitas ( Bk di dalam A) P(Bk) disebut keadaan Prior
Permasalahan klasifikasi
Misalkan dalam p permasalahan klasifikasi, terdapat dua kelas w1 dan w2. Diketahui sebuah data yang dinyatakan dalam fitur vector X Maka P(wi|X) merupakan keadaan posterior yang menyatakan peluang X ada di kelas wi wi.
Permasalahan klasifikasi
Secara umum, model klasifikasi dengan g metode Bayes, adalah mencari P(wi|X) paling p g besar. Dengan kata lain,
Jika P(w1|X) > P(w2|X) maka X diklasifikasikan sebagai kelas w1 Jika P(w2|X) > P(w2|X) maka X diklasifikasikan sebagai kelas w2
HMAP
HMAP (Hypothesis Maximum Appropri Probability) menyatakan hipotesa yang diambil berdasarkan nilai probabilitas berdasarkan kondisi prior yang diketahui. diketahui
P(Y )i =1 P( X i Y )
d
P( X )
HMAP adalah model penyederhanaan dari metode bayes yang disebut dengan Naive Bayes. HMAP inilah yang digunakan di dalam machine learning sebagai metode untuk mendapatkan hipotesis untuk suatu keputusan.
Data Training
# 1 2 3 4 5 6 Cuaca Cerah Cerah Hujan Cerah Hujan j Cerah Temperatur Normal Normal Tinggi Normal Tinggi gg Normal Kecepatan Angin Pelan Pelan Pelan Kencang Kencang g Pelan Berolah-raga Ya Ya Tidak Ya Tidak Ya
Apakah bila cuaca cerah dan kecepatan angin kencang, orang akan berolahraga?
P(Y=ya) = 4/6 , P(Y=tidak) = 2/6 P(X1=cerah|Y=ya) = 1, P(X1=cerah|Y=tidak) = 0 P(X3=kencang|Y=ya) = 1/4 , P(X3=kencang|Y=tidak) = 1/2 HMAP dari keadaan ini dapat dihitung dengan: P( X1=cerah,X3=kencang | Y=ya ) P(X1 cerah|Y ya).P(X3 P(X3=kencang|Y=ya) kencang|Y ya) } . P(Y P(Y=ya) ya) = { P(X1=cerah|Y=ya) = { (1) . (1/4) } . (4/6) = 1/6 P( X1=cerah,X3=kencang | Y=tidak ) = { P(X1=cerah|Y=tidak).P(X3=kencang|Y=tidak) } . P(Y=tidak) = { (0) . (1/2) } . (2/6) = 0 KEPUTUSAN ADALAH BEROLAHRAGA = YA
Fakta:
1 P( A | c ) = e 2
i j 2 ij j
( Ai ij ) 2
2 2 ij
Dimana ij dapat diestimasikan berdasarkan sample mean dari Xi untuk semua training record yang berada di kelas yj. Demikian juga dengan ij.
Taxable Income Cheat 125K 100K 70K 120K No No No No Yes No No Yes No Yes
Maka probabilitas untuk taxable income 120 berlaku tidak curang adalah
1 e 2 2 (54.54)
= 0.0072