DILEMA ETIKA
Anggota:
(Autonomous Car)
Dilema Etis
Akar permasalahan autonomous car secara etis dikenal sebagai "masalah troli" (the trolley
problem). Inilah problem etis yang sudah menghantui teknologi ini sejak mulai muncul. Bentuk
umum permasalahan ini sebagai berikut: Ada troli yang meluncur lepas kendali di atas rel. Pada
salah satu titik, terdapat lima orang yang diikat di atas rel, dan tidak bisa bergerak. Troli itu
bergerak langsung menuju mereka. Anda berdiri agak jauh dari rel tersebut, di samping tuas rel.
Jika Anda menarik tuas ini, troli akan beralih ke jalur yang berbeda. Namun, Anda melihat
bahwa ada satu orang di jalur yang berbeda tersebut. Anda memiliki dua pilihan: (1) tidak
berbuat apapun, dan kereta membunuh lima orang di jalur utama, atau (2) Anda menarik tuas,
mengalihkan kereta ke jalur sisi di mana kereta itu akan membunuh (hanya) satu orang.
Pertanyaan utama pada permasalahan ini adalah: pilihan mana yang lebih etis.
SOLUSI:
Jika memposisikan menjadi perancang dari autonomous car tentu harus mencari win-win
solution dalam dilema tersebut. Melihat dari “masalah troli” tersebut yang memposisikan antara
memilih tetap berjalan on the track (sesuai jalur) namun beresiko menabrak orang yang berada
didepannya atau keluar dari track (jalur) namun beresiko bagi mobil itu sendiri dan penumpang
yang didalamnya, maka harus diambil keputusan yang terbaik. Beberapa keputusan yang dapat
diambil dari permasalahan tersebut adalah sebagai berikut:
1. Jika dilihat dari cara kerja mobil autonomous ini, mobil ini memang dirancang untuk
berjalan mengikuti track (jalur) yang telah ditentukan, jadi solusi terbaik untuk
permasalahan ini adalah sebagai perancang mobil otonom tersebut tetep
mempertahankan mobil untuk tetap mengikuti jalur yang telah ditentukan walaupun dengan
konsekuensi dapat beresiko menabrak pejalan kaki yang tiba-tiba melintas didepannya.
solusi terbaik yang dapat dilakukan adalah dengan merancang desain fisik mobil yang lebih
mengutamakan keselamatan penumpang dan meminimalisasi resiko apabila mau tidak
mau harus mengalami kecelakaan dengan pejalan kaki yang melintas didepannya.
2. Karena mobil otonom ini didesain dengan program algoritma komputer, maka sebagai
desainer harus memastikan program-program yang telah dimasukkan dalam mobil sudah
menerapkan etika dalam berlalu lintas sehingga mobil otonom dapat menyesuaikan dengan
kondisi lalu lintas yang ada dilapangan misalnya harus mengikuti rambu-rambu lalu lintas
yang ada, dan menyesuaikan dengan kondisi jalan yang dilalui. Apabila etika-etika dalam
berlalu lintas tersebut sudah diterapkan dalam mobil otonom tersebut maka apabila terjadi
kondisi seperti pada gambar di soal tersebut bisa jadi bukan salah mobil otonom namun
kemungkinan pejalan kaki yang tidak memperhatikan etika etika dalam berjalan kaki.
3. Jika dilihat dari sudut pandang etika keselamatan jumlah orang yang ingin diselamatkan
maka pilihan yang terbaik adalah menyelamatkan 3 orang yang berada di dalam mobil dan
mengorbankan 2 orang dan seekor hewan yang harus mengalami kecelakaan.
4. Karena bagaimanapun mobil otonom adalah program yang dibuat manusia maka akan
lebih bijak jika tetap melibatkan manusia sebagai penumpang untuk mengambil alih mobil
otonom apabila terjadi hal-hal yang diluar kendali dari mobil otonom.