Nama : RIANA RIZKY MAULIDA

NIM : 181810101009

RESUME WEBINAR

MEMBUKA KOTAK HITAM MODEL MACHINE LEARNING

 Marchine learning merupakan kemampuan prediksinya sangat memuaskan

 Prediksi saja tidak cukup
 Membuka kotak hitam machine learning

Sistem Peringatan Dini untuk Krisis Perbankan, dimana Marchine learning ini dapat
mendeteksi keuangan yang ada di bank.

 Machine learning mengungguli untuk pendeteksian sesuatu. Pendeteksi dari machine

learning lebih unggul dari pendekatan lainnya. Pendekatan yang dguanakan dapat
memberi prediksi yang lebih baik
 Prediksi saja tidak cukup
- Sering diperlukan penjelasan terhadap hasil prediksi dan keputusan yang dihasilkan
oleh model.
- Meningkatkan keyakinan bahwa model akan bekerja dengan baik.
- Memenuhi kebutuhan regulator dan hal lain yang berkaitan dengan etik.
- Meningkatkan kolaborasi antara mesin dan manusia.

Berdasarkan model Marchine learning, dua orang sama-sama diprediksi akan “tertarik”
produk kita, namun dengan alasan yang berbeda.

Model supervised machine learning

- Random Forest
- XGBoost
- Neural Network

Marchine learning : Sulit diinterpretasikan, cenderung rumit dan bersifat BLACK BOX.

 Dalam banyak kasus mampu menghasilkan prediksi dengan ketepatan yang sangat baik.
 Mampu menangkap pola-pola hubungan tak linear.

Model yang mudah diinterpretasikan, yaitu :

1. Regresi linier
2. Regresi logistik
3. Pohon klasifikasi
Ketepatan prediksi vs kemudahan interpretasi

Memiliki ketepatan prediksi yang tinggi dan dapat diinterpretasikan dengan mudah.

Strategi menjelaskan model Marchine learning :

1. Sudut pandang global

- Global surrogote model (model bayangan)
- Global feature importance
2. Sudut pandang lokal
- Local surrogote model
- Local feature importance

Global Surrogate Model : model bayangan

Langkah-langkahnya

1. Pilih kumpulan data x untuk melatih model kotak hitam atau kumpulan data baru dari
distribusi yang sama. Bisa juga memilih subset data atau titik grid
2. Untuk kumpulan data yang dipilih, didapat model black box
3. Pilih model yang dapat interpretasikan (model linier,decision tree,....)
4. Kumpulan data x diinterpretasikan dan diprediksi
5. Didapat model bayangan
6. Menghitung seberapa baik model bayangan dengan prediksi model kotak hitam
7. Memastikan model bayangan
- Fitur penting dengan permutasi

Fitur penting adalah peningkatan kesalahan model saat informasi fitur dihilangkan.
F1 >1 mengindikasikan bahwa variabel memiliki tingkat kepentingan yang besar

- Fitur penting dengan desetion

Local interpretable model agnostic explanation (LIME)

 LIME berfokus pada model local pengganti untuk menjelaskan prediksi individu
 Langkah untuk melatih model local pengganti
- Pilih instans yang diminati dan beri penjelasan tentang prediksi black box
- Pertusb data set dan dapatkan prediksi black box untuk point
- Menimbang sampel baru sesuai dengan pendekatan dan contoh yang diminati
- Train model berbobot sehingga dapat diinterpretasikan pada data et dengan variasi
- Menjelaskan prediksi dengan menafsirkan model local
Penutup :

 Model machine learning

- Prediksinya memuaskan
- Rumit, Black box, tidak mudah dijelaskan
 Padahal interpretasi dan penjelasan dari hasil prediksi dari suatu model diperlukan dalan
banyak hal
 Berbagai usulan teknik tersedia di literatur dan berbagai software untuk dapat
memberikan interpretasi terhadap model black box atau hasil predikatnya