Studi kasus halaman 515 - 517 "Should an Algorithm Make Our Decision?

"
1. Apa masalah dalam menggunakan algoritma dan sistem otomatis untuk
pengambilan keputusan?
Algoritma seringkali merupakan alat yang elegan dan sangat berguna untuk
pengambilan keputusan, tetapi masalah dengan menggunakan algoritme dan sistem
otomatis untuk pengambilan keputusan adalah itu. Mereka tidak bersifat pribadi untuk
setiap skenario individu yang mereka tetapkan. Mereka tidak dapat mempertimbangkan
aspek manusia dari variabel, seperti mengapa seseorang mungkin melakukan kejahatan
seperti di penjara. Selain itu, ada beberapa batasan aturan karena tidak jelas
bagaimana sistem otomatis ini mengambil keputusan. Banyak negara dan negara
bagian memiliki sedikit aturan yang mewajibkan pengungkapan rumus algoritme. Karena
itu, mereka tidak bisa sempurna.
2. Apa faktor manajemen, organisasi, dan teknologi yang berkontribusi pada
masalah?
Salah satu masalah besar yang tidak terselesaikan selama beberapa waktu adalah
kurangnya transparansi seputar fungsi yang ditampilkan dengan program algoritmik ini,
seperti serta siapa sebenarnya dalam organisasi atau instansi pemerintah yang
bertanggung jawab memperbarui dan memelihara program-program ini. Sebagian besar
kritik datang dari penyebaran teknologi, tidak sebanyak teknologi itu secara inheren
"jahat", dengan sebagian besar protes datang dari efek besar yang dimiliki algoritme ini
kehidupan individu, dalam ekstrim hukuman penjara dan analisis risiko untuk keluarga.
Satu kasus perhatian atas algoritme yang menyebabkan penangguhan program
Rotterdam, di mana pengacara hak-hak sipil membantu pengadilan memutuskan privasi
warga diserang karena kurangnya transparansi tentang bagaimana algoritma
dioperasikan.
3. Haruskah sistem otomatis digunakan untuk membuat keputusan? Jelaskan
jawabanmu
Sepintas lalu, algoritme pembelajaran mesin terlihat seperti solusi yang menjanjikan
mengurangi masalah jahat yang bias manusia, dan segala cara yang dapat berdampak
negatif pada kehidupan jutaan orang. Idenya adalah bahwa algoritme dalam AI mampu
menjadi lebih adil dan lebih efisien daripada manusia. Perusahaan, pemerintah,
organisasi, dan individu di seluruh dunia menyerahkan pengambilan keputusan karena
berbagai alasan — lebih dapat diandalkan, menjadi lebih mudah, lebih murah, dan
hemat waktu. Namun, masih ada beberapa kekhawatiran yang harus diperhatikan.
menghindari bias ketika itu terjadi. Algoritma diajarkan untuk membuat prediksi
berdasarkan informasi yang diumpankan ke dalamnya dan pola yang diekstraksi dari
informasi ini. Mengingat bahwa manusia menunjukkan semua jenis bias, perwakilan
dataset dari lingkungan bisa belajar bias ini juga. Dalam pengertian ini, algoritme seperti
cermin — polanya mereka mendeteksi mencerminkan bias yang ada di masyarakat kita,
baik eksplisit maupun implisit