Etika Pengembangan AI

Go to the profile of Rina Maylestari

Rina Maylestari

Feb 28

Dalam pengembangan “Kecerdasan Buatan” (Artificial Intelligence) memunculkan sejumlah masalah

etika. Hanya untuk memastikan bahwa mesin tersebut tidak membahayakan manusia dan makhluk
lainnya yang relevan secara moral.

1. Masalah yang mungkin Timbul dalam Waktu Dekat

Sebagai contoh : bayangkan bila dalam waktu dekat, sebuah bank menggunakan algoritma khusus untuk
merekomendasikan aplikasi persetujuan hipotek. Pemohon yang ditolak mengajukan gugatan terhadap
bank, menuduh bahwa algoritma ini terlalu memihak golongan tertentu atau membedakan dalam suatu
hal, contohnya pekerjaan seseorang pada saat pengajuan hipotek. Bank tentu akan menjawab bahwa ini
tidak mungkin, karena algoritma ini tidak membedakan golongan/ kelompok tertentu atau pekerjaan
seseorang, karena itulah alasan bank untuk mengimplementasikan sistem. Meski begitu, statistik
menunjukkan bahwa tingkat persetujuan bank untuk seseorang yang bekerja di bidang jasa dan bidang
hukum contohnya, ternyata lebih rendah/ sedikit sekali dibandingkan dengan seseorang yang bekerja di
bidang selain jasa dan hokum.

Menurut Anda apakah itu bisa terjadi? Untuk menjawab hal tersebut mungkin tidak mudah. Jika
algoritma AI didasarkan pada jaringan saraf yang rumit, atau algoritma genetika yang dihasilkan oleh
evolusi terarah, maka mungkin tidak mustahil untuk memahami mengapa, atau bagaimana algoritma itu
menilai seorang pemohon pengajuan hipotek berdasarkan golongan/ kelompok tertentu atau bidang
pekerjaannya.

Di sisi lain, seorang programmer dapat merancang alogoritma AI berdasarkan informasi/ data dari setiap
pemohon yang mengajukan hipotek dan berhasil mendapat persetujuan dari bank.
Algoritma AI memainkan peran yang besar dalam masyarakat modern, meskipun biasanya tidak berlabel
“AI”. Dan menjadi semakin penting untuk mengembangkan algoritma AI, yang tidak hanya dapat diukur,
tetapi juga transparan untuk dilakukan inspeksi.

2. Tantangan untuk Memastikan bahwa AI Beroperasi dengan Aman dan Baik

Beberapa tantangan dalam etika pengembangan AI adalah merancang sebuah mesin/ aplikasi yang tidak
menghancurkan kehidupan manusia, yang lebih sarat moral. Ini merupakan tantangan baru bagi bidang
pemrograman, ketika algoritma AI tidak mengindahkan pekerjaan kognitif dalam dimensi social, yang
sebelumnya dilakukan oleh manusia.

Pasti begitu frustrasi ketika tidak ada bank yang menyetujui pengajuan hipotek Anda, padahal Anda
tampaknya bagus dalam riwayat/ skor kredit aplikasi peminjaman, dan tidak tahu mengapa alasan Anda
ditolak.

Transparansi bukan satu-satunya fitur AI yang diinginkan. Penting juga bahwa Algoritma AI mengambil
alih fungsi sosial yang selama ini dikelola manusia. Algoritma AI yang dirancang harus memikirkan akan
kemungkinan adanya manipulasi dan dapat meningkatkan skala pada sistem paralel yang lebih besar.

Dalam pengembangan AI dibutuhkan orang yang bertanggung jawab untuk menyelesaikan sesuatu yang
telah dibuat. Ketika sistem AI gagal dalam tugas yang diberikan, siapa yang disalahkan?
Programmernya? Pengguna akhir?

Dalam prosedur birokrat yang modern telah ditetapkan pendistribusian tanggung jawab sedemikian
secara luas. Bahkan jika sistem AI dirancang dengan penggantian manusia sebagai pelaksana, kita harus
mempertimbangkan keberadaan karier/ pekerjaan manusia tersebut.

Tanggung jawab, transparansi, kemampuan audit, tidak rusak, dapat diprediksi, dan kecenderungan
untuk tidak membuat korban yang tidak bersalah berteriak dengan frustrasi, semua kriteria itu
merupakan fungsi sosial yang ada dalam diri manusia, yang harus dipertimbangkan dalam suatu
algoritma AI yang dimaksudkan untuk menggantikan penilaian manusia atas fungsi sosial. Para
Profesional AI setuju bahwa kecerdasan manusia jelas jauh lebih penting daripada kecerdasan
nonhominid.
Ketika insinyur membangun pemanggang roti tentunya telah membayangkan reaksi roti terhadap
elemen pemanas pemanggang, perhitungan di dalam pemanggang roti dan jika Anda meletakkan kain di
dalam pemanggang roti, mungkin akan terbakar, atau efek samping lainnya yang tidak dibayangkan.

Bahkan algoritma AI pun membuat kita di luar paradigma toaster, sistem yang dihasilkan tidak akan
mampu lebih pintar dari penciptanya. Karena programmer sendiri bukan pencipta toaster.

Untuk membangun AI yang aman dengan banyak konsekuensi, hal itu melibatkan ekstrapolasi yang jauh
dan mendalam, sehingga sistem secara eksplisit memperkirakan konsekuensi dari perilakunya. Karena si
pemanggang roti tidak bisa meramalkan konsekuensi dari memanggang roti.

Dengan demikian, dalam pengembangan AI perlu memperhatikan keamanan sistem, dengan

memverifikasi apa yang dilakukan sistem dalam semua konteks operasi.

3. Bagaimana Kita dapat Menilai AI tersebut Terkait Status Moral

Sistem AI di masa depan merupakan kandidat untuk memiliki status moral. Secara luas disepakati bahwa
sistem AI saat ini tidak memiliki status moral. Kami mungkin mengubah, menyalin, mengakhiri,
menghapus, atau menggunakan program komputer sesuka kami.

Sementara itu, cukup konsensus bahwa sistem AI saat ini tidak memiliki status moral. Dua kriteria yang
biasanya diusulkan terkait dengan status moral, adalah : kemampuan untuk merasakan sesuatu dan
kebijaksanaan.

Pencipta atau pemilik sistem AI tentunya mempunyai pikiran atau tujuan tertentu yang belum tentu
dimiliki orang lain dalam membuat sistem AI, dimana masing-masing individu mempunyai status moral
yang berbeda beda. Tentunya system AI yang dibuat harus mempertimbangkan bagaimana system ini
akan mempengaruhi status moral individu-individu yang berada dalam konteksnya.

4. Membuat AI Lebih Cerdas dari Manusia dan Memastikan Penggunaan AI Menuju ke Arah yang Lebih
Baik
Suatu AI yang memiliki kecerdasan super mampu memahami desainnya sendiri dan membuat system
penerus/ generasi berikutnya yang lebih cerdas. Kecerdasan super juga dapat dicapai dengan
meningkatkan kecepatan pemrosesan.

Metafora untuk memvisualisasikan kemampuan AI yang lebih pintar dari manusia, contohnya :

· Metafora yang terinspirasi oleh perbedaan kecerdasan individu antara manusia : AI akan mematenkan
penemuan baru, menerbitkan makalah penelitian yang inovatif, menghasilkan uang di pasar saham, atau
memimpin blok kekuasaan politik.

· Metafora yang terinspirasi oleh perbedaan pengetahuan antara peradaban manusia dulu dan
sekarang : AI yang cepat akan menciptakan kemampuan memprediksi untuk peradaban manusia
milenium di masa depan, seperti : nano teknolog molekuler atau perjalanan antar bintang.

· Metafora yang terinspirasi oleh perbedaan arsitektur otak antara manusia dan organisme biologis
lainnya seperti dengan hewan

Perlu diperhatikan bahwa kecerdasan memiliki potensi manfaat dan resiko. Suatu kesalahan untuk
menganggap “AI” sebagai spesies dengan karakteristik tetap dan bertanya,

“Apakah mereka baik atau jahat?” Istilah “Kecerdasan Buatan” mengacu pada desain ruang yang luas,
mungkin jauh lebih besar daripada ruang pikiran manusia. Pertanyan yang tepat seharusnya “Desain AI
seperti apa yang akan kamu buat untuk menjadikan kehidupan di bumi ini lebih baik?”

Mari kita anggap bahwa AI tidak hanya pintar, tetapi juga sebagai bagian dari proses meningkatkan
kecerdasannya sendiri, ia memiliki akses mulus ke kecerdasannya sendiri : ia dapat menulis ulang sendiri
untuk apa pun yang diinginkannya. Namun itu tidak mengikuti bahwa AI harus ingin menulis ulang
dirinya sendiri ke bentuk permusuhan. Secara inheren kecerdasan tidak mungkin untuk dikendalikan
meskipun ada upaya manusia untuk mengambil tindakan pencegahan.
Sistem matematika koheren seperti teori probabilitas dan maksimisasi utilitas yang diharapkan,
tampaknya lebih bisa memprediksi pembaharuan AI daripada evolusi pemrograman dan algoritma
genetika.

Ini mungkin memberikan kita tantangan dalam pengembangan AI : Bagaimana Anda membangun AI
yang ketika dijalankan, menjadi lebih etis daripada Anda? Dimana AI ditempatkan pada posisi lebih kuat,
lebih cepat, lebih dapat dipercaya, atau lebih pintar daripada manusia, maka disiplin etika AI harus
berkomitmen pada tujuan kebaikan manusia dan makhluk hidup lainnya dalam konteks AI.

Kesimpulan

Kalau boleh saya simpulkan bahwa meskipun AI saat ini menawarkan kepada kita beberapa
penyelesaian sistem, dimana pendekatan algoritma AI menuju kemiripan pikiran manusia, tetapi harus
melibatkan peran social dalam algoritma AI seperti transparansi dan prediktabilitas dengan
pertimbangan rekayasa etika buatan

Dan akhirnya, prospek AI menuju kecerdasn super memberi kita tantangan luar biasa untuk membuat
suatu algoritma yang dapat menghasilkan perilaku superetis. Karena cepat atau lambat kita akan
menuju kearah tersebut.