LECTURE NOTES

Artificial Intelligence

Minggu 5
Sesi 6

Quantifying Uncertainty

COMP6275 – Artificial Intelligence

 LEARNING OUTCOMES

LO3: Menunjukkan bagaimana mencapai suatu tujuan melalui urutan tindakan

yang disebut perencanaan
LO4: Terapkan berbagai teknik ke agen saat bertindak di bawah kepastian dan
bagaimana mengolah bahasa alami dan tanda perseptual lainnya agar agen
bisa berinteraksi secara cerdas dengan dunia.

OUTLINE MATERI (Sub-Topic):

 Bertindak di Bawah Ketidakpastian
 Notasi Probabilitas Basic
 Inferensi Menggunakan Kendali Distribusi Bersama
 Independence
 Teorema Probabilitas dan Bayes

COMP6275 – Artificial Intelligence

 ISI MATERI

Bertindak di Bawah Ketidakpastian

 Agen mungkin perlu menangani ketidakpastian, apakah karena pengamatan
parsial, nondeterminisme, atau kombinasi keduanya. Seorang agen mungkin
tidak pernah tahu pasti apa keadaannya atau kapan akan berakhir setelah
serangkaian tindakan.
 Pengetahuan agen paling banter hanya memberi tingkat keyakinan pada
kalimat yang relevan.
 Alat utama untuk menangani tingkat kepercayaan adalah teori probabilitas.
 Probabilitas menyediakan cara untuk meringkas ketidakpastian yang datang
dari kemalasan dan ketidaktahuan, sehingga memecahkan masalah
kuantifikasi.
Ketidakpastian dan keputusan rasional
 Untuk membuat pilihan seperti itu, agen harus terlebih dahulu memiliki
preferensi antara berbagai kemungkinan hasil dari berbagai rencana.
 Preferensi, seperti yang diungkapkan oleh utilitas, dikombinasikan dengan
probabilitas dalam teori umum keputusan rasional yang disebut teori
keputusan.

 Dasar teori keputusan adalah bahwa seorang agen rasional jika hanya jika
memilih tindakan yang menghasilkan utilitas yang diharapkan tertinggi,
dirata-ratakan dari semua kemungkinan hasil tindakan. Disebut Called
maximum expected utility (MEU).
 Perbedaan utama adalah bahwa kepercayaan-agen teori-theoretic mewakili
tidak hanya kemungkinan untuk negara-negara dunia tetapi juga probabilitas
mereka. Dengan adanya kepercayaan, agen dapat membuat prediksi
probabilitas dari hasil tindakan dan karenanya memilih tindakan dengan
utilitas tertinggi yang diharapkan.

Metode untuk Menangani Ketidakpastian

 Logika default atau nonmonotonik:
o Asumsikan mobil saya tidak memiliki ban kempes
o Asumsikan A25 bekerja kecuali jika dibantah oleh bukti
 Isu: Asumsi apa yang masuk akal? Bagaimana menangani kontradiksi?
 Aturan dengan faktor fudge:
o A25 | → 0,3 sampai di sana tepat waktu
o Sprinkler | 0.99 WetGrass

COMP6275 – Artificial Intelligence

 o WetGrass | 0.7 Hujan
 Masalah: Masalah dengan kombinasi, misalnya, Sprinkler menyebabkan
hujan?
 Probabilitas
o Tingkat kepercayaan model agen
o Dengan adanya bukti yang ada,
o A25 akan membawa saya ke sana tepat waktu dengan probabilitas 0,04

Merangkum Ketidakpastian
Pernyataan probabilistik merangkum efek dari
 Kemalasan: kegagalan untuk menghitung pengecualian, kualifikasi, dll.
 Ketidaktahuan: kurangnya fakta yang relevan, kondisi awal, dll.

Probabilitas subyektif:
 Probabilitas menghubungkan proposisi dengan status pengetahuan agen
sendiri
misalnya, P (A25 | tidak melaporkan kecelakaan) = 0,06
 Ini bukan pernyataan tentang dunia
 Probabilitas proposisi berubah dengan bukti baru:
misalnya, P (A25 | tidak melaporkan kecelakaan, 5 a.m.) = 0,15

1. Notasi Probabilitas Basic

Bagi agen kami untuk mewakili dan menggunakan informasi probabilistik,
kami membutuhkan bahasa formal. Bahasa teori probabilitas secara
tradisional bersifat informal, ditulis oleh matematikawan manusia kepada
matematikawan manusia lainnya. Lampiran A mencakup pengenalan
standar teori probabilitas dasar; Di sini, kita mengambil pendekatan yang
lebih sesuai dengan kebutuhan AI dan lebih konsisten dengan konsep logika
formal.
Dalam teori probabilitas, himpunan semua kemungkinan dalam dunia
disebut ruang sampel. Model probabilitas yang ditentukan sepenuhnya
mengasosiasikan probabilitas numerik P (ω) dengan setiap dunia yang
mungkin.1 Aksioma dasar teori probabilitas mengatakan bahwa setiap
kemungkinan dunia memiliki probabilitas antara 0 dan 1 dan bahwa
probabilitas total dari sekumpulan dunia yang mungkin adalah 1 :
Probabilitas model :

Di AI, rangkaian selalu digambarkan oleh proposisi dalam bahasa formal.

Untuk setiap proposisi, kumpulan yang sesuai hanya berisi kemungkinan

COMP6275 – Artificial Intelligence

dunia di mana proposisi tersebut berlaku. Probabilitas yang terkait dengan
proposisi didefinisikan sebagai jumlah probabilitas dunia di mana ia
memegang:
Untuk proposisi apapun

Secara matematis, probabilitas bersyarat didefinisikan dalam hal

probabilitas tanpa syarat sebagai berikut: untuk setiap proposisi a dan b, kita
memiliki

yang berlaku setiap kali P (b)> 0. Misalnya, (Misalnya ("|" diucapkan

"diberikan")

Definisi probabilitas bersyarat, dapat ditulis dalam bentuk yang berbeda

yang disebut aturan produk:

Aturan produk mungkin lebih mudah diingat: itu berasal dari kenyataan
bahwa, untuk a dan b menjadi kenyataan, kita membutuhkan b untuk
menjadi kenyataan, dan kita juga membutuhkan sesuatu untuk diberikan
secara benar b.
 Permutasi dan Kombinasi

Jika Anda memiliki koleksi n objek yang dapat dibedakan, maka jumlah
cara yang dapat Anda gunakan untuk memilih nomor r (r <n) diberikan
oleh hubungan permutasi dan kombinasi:

Misalnya, jika Anda memiliki enam orang untuk bermain tenis, maka
jumlah pasangan untuk bermain tenis single adalah

 Probabilitas basic

COMP6275 – Artificial Intelligence

 Jika kita mengidentifikasi sekumpulan semua kemungkinan hasil
sebagai "ruang sampel" dan menunjukkannya dengan S, dan memberi
label pada kejadian yang diinginkan sebagai E, maka probabilitas
kejadian E dapat ditulis.

Kemungkinan melempar sepasang dadu, bertaruh pada nomor 7 karena

ini adalah yang paling mungkin. Ada enam cara untuk membuang
angka 7, dari 36 kemungkinan hasil lemparan. Probabilitasnya adalah
saat itu

 Kartu terbang (Flying Card)

Gambarkan lima kartu dari dek standar 52 kartu remi, dan hitunglah
kemungkinan kelima kartu itu adalah hati. Peristiwa yang diinginkan ini
membawa ide kombinasi. Jumlah cara untuk memilih lima hati, tanpa
memperhatikan hati atau urutan mana, diberikan oleh kombinasi

sementara jumlah total hasil yang mungkin diberikan oleh kombinasi

yang jauh lebih besar

Ekspresi probabilitas dasar yang sama digunakan, namun dibutuhkan

bentuknya

Jadi menarik lima kartu dari satu setelan yang dipilih adalah kejadian
langka dengan probabilitas sekitar satu di tahun 2000.

 Gerbang logika
Jika kejadian terkait oleh logika AND, probabilitas resultan adalah
produk dari probabilitas individu. Jika Anda ingin probabilitas
melempar dengan harapan total angka keluar 7 dengan sepasang dadu
AND melempar dengan harapan yang lain total angka keluar 7 pada
lemparan kedua, maka probabilitasnya adalah produk.

COMP6275 – Artificial Intelligence

Probabilitas tidak memiliki efek kausatif, jadi kejadian sebelumnya tidak
berpengaruh pada probabilitas kejadian di masa depan. Sebagai contoh:
 Probabilitas melempar keluar angka "2" satu kali dengan satu mati:
1/6
 Probabilitas melempar keluar angka "2" dua kali berturut-turut, "2"
AND "2": 1/6 x 1/6 = 1/36
 Kemungkinan melempar keluar angka "2" pada lemparan
berikutnya: 1/6
Aksioma Probabilitas dan Reasonableness mereka.
Hubungan antara probabilitas proposisi dan probabilitas negasinya
adalah:

Probabilitas disjoint disebut (inclusion-exclusion principle)

Contoh :
Untuk 100 anak, tanyakan "apa arti lampu lalu lintas", dan jawabannya
adalah:
75 anak tahu arti lampu merah
35 anak tahu arti lampu kuning
50 anak tahu arti keduanya

Oleh karena itu :

COMP6275 – Artificial Intelligence

 P(red yellow) = P(red) + P(yellow) – P(red yellow)
P(red yellow) = 0.75 + 0.35 – 0.5 = 0.6
2. Inferensi Menggunakan Kendali Distribusi Bersama
Kesimpulan probabilistik adalah perhitungan probabilitas posterior untuk
proposisi query yang diberikan bukti yang diamati.
Posisi Frequentist adalah bahwa jumlahnya hanya bisa berasal dari
eksperimen: jika kita menguji 100 orang dan menemukan bahwa 10 di
antaranya memiliki rongga, maka kita dapat mengatakan bahwa probabilitas
rongga sekitar 0,1.
Pandangan objectivist adalah bahwa probabilitas adalah aspek nyata dari
kecenderungan universal objek untuk berperilaku dengan cara tertentu-
bukan sekadar deskripsi tentang tingkat kepercayaan pengamat.
Pandangan subjektivis menggambarkan probabilitas sebagai cara untuk
mengkarakterisasi kepercayaan agen, dan bukan memiliki signifikansi fisik
eksternal. Pandangan Bayesian yang subyektif memungkinkan adanya
asumsi probabilitas probabilitas sebelumnya terhadap proposisi sebelumnya,
namun kemudian menegaskan pembaruan Bayesian yang tepat saat ada
bukti.

Sebuah spesifikasi lengkap tentang keadaan dunia dimana agen tersebut

tidak pasti
Misalnya, jika dunia hanya terdiri dari dua variabel Boolean Cavity dan
Toothache, maka ada 4 peristiwa atom yang berbeda:
Cavity = false Toothache = false
Cavity = false  Toothache = true
Cavity = true  Toothache = false
Cavity = true  Toothache = true
Peristiwa atom saling eksklusif dan menyeluruh.

Distribusi Full Join

Mulailah dengan distribusi probabilitas gabungan

Untuk setiap proposisi φ, sebutkan kejadian atom di mana itu benar: P (φ) =
Σω: ω╞φ P (ω)

Inferensi oleh Enumerasi

COMP6275 – Artificial Intelligence

o Mulailah dengan distribusi probabilitas gabungan:

o Enam kemungkinan dunia di mana rongga sakit gigi:

P(cavity  toothache)
= 0.108 + 0.012 + 0.072 + 0.008 + 0.016 + 0.064 = 0.28

P(cavity) = 0.108 + 0.012 + 0.016 + 0.064 = 0.2

Bisa juga menghitung probabilitas kondisional:

P(cavity | toothache) = P(cavity  toothache)
P(toothache)
= 0.016+0.064
0.108 + 0.012 + 0.016 + 0.064
= 0.4

o Normalisasi

Denominator dapat dipandang sebagai normalisasi konstan α

P(Cavity | toothache) = α P(Cavity, toothache)

COMP6275 – Artificial Intelligence

 = α [P(Cavity, toothache, catch) + P(Cavity, toothache,  catch)]
= α [ 0.108, 0.016  +  0.012, 0.064 ]
= α [(0.108 + 0.012) + (0.012, 0.064)]
=  0.12, 0.08  =  0.6, 0.4 
Ide Umum: hitung distribusi pada variabel kueri dengan memperbaiki
variabel bukti dan menjumlahkan variabel tersembunyi

o Biasanya, kita tertarik pada distribusi bersama posterior dari variabel

kueri Y yang diberi nilai spesifik e untuk variabel bukti E
o Biarkan variabel tersembunyi menjadi H = X - Y - E
o Kemudian penjumlahan entri sendi yang diperlukan dilakukan dengan
menjumlahkan variabel tersembunyi:
P (Y | E = e) = α P (Y, E = e) = αΣh P (Y, E = e, H = h)
o Istilah dalam penjumlahan adalah entri gabungan karena Y, E dan H
bersama-sama menghabiskan himpunan variabel acak
o Masalah yang jelas:
1. Kompleksitas waktu terburuk O (dn) di mana d adalah entri
terbesar
2. Kompleksitas ruang angkasa O (dn) untuk menyimpan distribusi
bersama
3. Bagaimana menemukan nomor untuk entri O (dn)?

3. Independence
Dengan menambahkan variabel keempat, Weather. Distribusi bersama
penuh kemudian menjadi P (Toothache, Catch, Cavity, Weather), yang
memiliki 2 × 2 × 2 × 4 = 32 entri.
Hubungan apa yang dimiliki edisi ini dengan satu sama lain dan tabel tiga
variabel aslinya? Misalnya, bagaimana P (toothache, catch, cavity, cloudy)
dan P (toothache, catch, cavity) terkait? Kita bisa menggunakan aturan
produk:

Cuaca tidak mempengaruhi variabel gigi, oleh karena itu:

Dari sini, kita bisa menyimpulkan :

Persamaan yang sama ada untuk setiap entri masuk P(Toothache , Catch ,
Cavity , Weather ). Sebenarnya, kita bisa menulis persamaan umum.

COMP6275 – Artificial Intelligence

Properti yang kita gunakan dalam Persamaan disebut independence (juga
marginal independence dan absolute independence). Secara khusus,
cuacanya tidak tergantung pada masalah gigi seseorang. Independence
antara proposisi a dan b dapat ditulis sebagai:

P(Toothache, Catch, Cavity, Weather)

= P(Toothache, Catch, Cavity) P(Weather)
o 32 entri dikurangi menjadi 12; untuk n koin bias independen, O (2n)
→ O (n)
o Kedokteran gigi adalah bidang yang besar dengan ratusan variabel,
tidak ada yang independen. Apa yang harus dilakukan?

Kondisi independence adalah :

P (Toothache, Cavity, Catch) memiliki 23 - 1 = 7 entri independen
Jika saya memiliki cavity, probabilitas bahwa tangkapan ditangkap
di dalamnya tidak tergantung pada apakah saya toothache:
o (1) P (catch | toothache, cavity) = P (catch | cavity)

Independensi yang sama berlaku jika saya tidak memiliki rongga:

o (2) P (catch | toothache,  cavity) = P (catch |  cavity)
Menangkap kondisional terlepas dari Sakit gigi yang diberikan
Rongga:
o P (Catch | Toothache, Cavity) = P (Catch | Rongga)

Pernyataan ekuivalen:
o P (Toothache | Catch, Cavity) = P (Toothache | Cavity)
o P (Toothache, Catch | Cavity) = P (Toothache | Cavity) P (Catch | Cavity)

COMP6275 – Artificial Intelligence

 Menuliskan distribusi gabungan penuh dengan menggunakan aturan
rantai:
P(Toothache, Catch, Cavity)
= P(Toothache | Catch, Cavity) P(Catch, Cavity)

= P(Toothache | Catch, Cavity) P(Catch | Cavity) P(Cavity)

= P(Toothache | Cavity) P(Catch | Cavity) P(Cavity)
Yaitu., 2 + 2 + 1 = 5 independent numbers
o Dalam kebanyakan kasus, penggunaan kemandirian kondisional
mengurangi ukuran representasi distribusi bersama dari eksponensial
dalam n ke linier n.
o Independensi bersyarat adalah bentuk pengetahuan kita yang paling
dasar dan kokoh tentang lingkungan yang tidak pasti.

4. Teorema Probabilitas dan Baye’s

Aturan Bayes (juga hukum Bayes atau teorema Bayes '). Persamaan
sederhana ini mendasari sistem AI paling modern untuk kesimpulan
probabilistik. Aturan Bayes (juga hukum Bayes atau teorema Bayes ').
Persamaan sederhana ini mendasari sistem AI paling modern untuk
kesimpulan probabilistik.
Definisi :
P(Hi E) = Probabilitas bahwa hipotesis Hi benar jika diberi bukti E
P(E Hi) = probabilitas bahwa bukti E muncul jika mengetahui hipotesis itu benar
P(Hi) = Probabilitas apriori adalah probabilitas bahwa hipotesis Hi muncul tanpa
bukti
k = jumlah kemungkinan hipotesis
P( E / H i ) * P( H i )
P( H i / E ) = k

å P( E / H
n =1
n ) * P( H n )

Contoh 1:
Vany memiliki onset gejala seperti bintik-bintik di wajah. Dokter
mendiagnosis bahwa Vany terkena cacar air dengan kemungkinan:
o Kemungkinan munculnya bintik-bintik di wajah, jika Vany terkena cacar
air, p (bintik / cacar air) = 0,8
o Probabilitas Vany terkena cacar air tanpa pemberitahuan adanya gejala,
p (cacar air) = 0,4
o Kemungkinan munculnya bintik-bintik di wajah, jika Vany mendapat
alergi, p (bintik / alergi) = 0,3

COMP6275 – Artificial Intelligence

o Probabilitas Vany mendapat alergi tanpa ada gejala, p (alergi) = 0,7
o Kemungkinan munculnya bintik-bintik di wajah, jika Vany terkena
jerawat, p (bintik / jerawat) = 0,9
o Probabilitas bahwa Vany mendapat jerawat tanpa pemberitahuan adanya
gejala, p (jerawat) = 0,5
Hitung probabilitas dari setiap gejala yang disebutkan di atas!
Solusi :
p (chickenpox / spots ) =
p(spots/chickenpox) * p(chickenpox)
p(spots/chickenpox) * p(chickenpox) + p(spots/allergy) * p(allergy) + p(spots/pimples) * p(pimples)

p(chickenpox/spots) =
(0,8) * (0,4) 0,32
= = 0,327
(0,8) * (0,4) + (0,3) * (0,7) + (0,9) * (0,5 0,98

Dengan cara yang sama, kita dapat memperoleh:

(0,3) * (0,7)
p ( allergy / spots ) = = 0,214
0,98
(0,9) * (0,5)
p ( pimples / spots ) = = 0,459
0,98

Contoh 2 :
Problem: Marie akan menikah besok, di sebuah upacara luar di padang
pasir. Dalam beberapa tahun terakhir, hujan turun hanya 5 hari setiap
tahunnya. Sayangnya, cuaca telah meramalkan hujan untuk hari esok. Bila
benar-benar hujan, petugas cuaca dengan benar memperkirakan hujan 90%
dari waktu. Bila tidak hujan, ia salah memperkirakan hujan 10% dari waktu.
Berapakah kemungkinan hujan di hari pernikahan Marie?
Solusi: Ruang sampel didefinisikan oleh dua peristiwa yang saling eksklusif
- hujan atau hujan. Selain itu, acara ketiga terjadi saat petugas cuaca
memprediksi hujan. Notasi untuk kejadian ini muncul di bawah ini.
 Acara A1. Hujan pada pernikahan Marie.
 Acara A2. Itu tidak hujan pada pernikahan Marie.
 Acara B. Penjaga cuaca memprediksi hujan.
Dalam hal probabilitas, kita mengetahui hal berikut:
o P (A1) = 5/365 = 0,0136985 [Hujan turun 5 hari dari tahun ini.]
o P (A2) = 360/365 = 0,9863014 [Itu tidak hujan 360 hari dari tahun.]

COMP6275 – Artificial Intelligence

o P (B | A1) = 0,9 [Saat hujan, petugas cuaca memprediksi hujan 90%
dari waktu.]
o P (B | A2) = 0,1 [Bila hujan tidak turun, petugas cuaca memprediksi
hujan 10% dari waktu.]
o Kami ingin tahu P (A1 | B), kemungkinan hujan akan turun pada hari
pernikahan Marie, mengingat ramalan hujan oleh petugas cuaca.
Jawabannya bisa ditentukan dari teorema Bayes, seperti yang
ditunjukkan di bawah ini.
Jawaban

Perhatikan hasil yang agak tidak intuitif. Bahkan saat weatherman

memprediksi hujan, hujan hanya turun sekitar 11% dari waktu. Terlepas dari
ramalan cuaca yang suram, ada kemungkinan Marie tidak akan hujan pada
saat pernikahannya.
Menerapkan Aturan Bayes: kasus sederhana
Product rule :

Dua sisi kanan dan membagi dengan P (a), dapatkan peraturan Bayes:

atau dalam bentuk distribusi:

Perceive sebagai bukti efek dari beberapa penyebab yang tidak diketahui
dan untuk menentukan penyebabnya. Aturan Bayes menjadi:

COMP6275 – Artificial Intelligence

Contoh :
Dokter juga mengetahui beberapa fakta tanpa syarat: probabilitas
sebelumnya bahwa pasien meningitis adalah (1/50000), dan kemungkinan
sebelumnya bahwa setiap pasien memiliki leher kaku adalah 1%.
Membiarkan:
s = proposisi bahwa pasien memiliki leher yang kaku
m = proposisi bahwa pasien memiliki meningitis

Aturan Bayes: Menggabungkan Bukti

P(Cavity | toothache  catch)

= αP(toothache  catch | Cavity) P(Cavity)
= αP(toothache | Cavity) P(catch | Cavity) P(Cavity)

Ini adalah contoh model Bayes naif:

P(Cause,Effect1, … ,Effectn) = P(Cause)πiP(Effecti|Cause)

Total jumlah parameter linier dalam n

COMP6275 – Artificial Intelligence

 SIMPULAN

1. Ketidakpastian muncul karena kemalasan dan ketidaktahuan. Hal ini tak

terhindarkan di lingkungan yang kompleks, nondeterministik, atau sebagian
dapat diamati.
2. Teori keputusan menggabungkan keyakinan dan keinginan agen,
mendefinisikan tindakan terbaik sebagai salah satu yang memaksimalkan
utilitas yang diharapkan.
3. Pernyataan probabilitas dasar mencakup probabilitas sebelumnya dan
probabilitas bersyarat melalui proposisi sederhana dan kompleks.
4. Aksioma probabilitas membatasi kemungkinan kemungkinan probabilitas
terhadap proposisi. Seorang agen yang melanggar aksioma harus bersikap
tidak rasional dalam beberapa kasus.
5. Distribusi probabilitas gabungan penuh menentukan probabilitas setiap
penugasan nilai yang lengkap ke variabel acak. Biasanya terlalu besar untuk
dibuat atau digunakan dalam bentuk eksplisitnya, namun bila tersedia, itu
dapat digunakan untuk menjawab pertanyaan hanya dengan menambahkan
entri untuk kemungkinan dunia yang sesuai dengan proposisi kueri.
6. Aturan Bayes memungkinkan probabilitas yang tidak diketahui dihitung dari
probabilitas kondisional yang diketahui, biasanya dalam arah kausal.
Menerapkan peraturan Bayes dengan banyak bukti menunjukkan masalah
penskalaan yang sama seperti distribusi bersama penuh.

COMP6275 – Artificial Intelligence

 DAFTAR PUSTAKA

 Stuart Russell, Peter Norvig,. 2010. Artificial intelligence : a modern

approach. PE. New Jersey. ISBN:9780132071482
 Elaine Rich, Kevin Knight, Shivashankar B. Nair. 2010. Artificial
Intelligence. MHE. New York.
 http://aitopics.net/Uncertainty
 http://eprints.ucl.ac.uk/16378/1/16378.pdf

COMP6275 – Artificial Intelligence