9

Dampak Etika, Mesin, dan Masyarakat terhadap Sistem Cerdas

pengantar
Yang paling penting adalah Anda tidak dapat berbicara tentang kecerdasan buatan tanpa
berbicara tentang kecerdasan. Salah satu kesalahan besar yang dilakukan orang adalah
mereka membuat AI menjadi hal-hal spesifik seperti deep learning atau film terminator
Arnold Schwarzenegger, tetapi intinya adalah bahwa kata apa pun cenderung digunakan
dalam banyak cara berbeda ketika mendefinisikan definisi. Jadi saya menggunakan definisi
lokal, bagi saya definisi yang saya gunakan biasanya untuk intelijen adalah "melakukan hal
yang benar pada waktu yang tepat", sangat sederhana, dan kemudian Kecerdasan Buatan
hanyalah "sebuah artefak yang telah kami bangun untuk melakukan itu untuk melakukan hal
yang benar di waktu yang tepat".
Dari perspektif ilmu komputer, masalah kecerdasan yang saya lihat sebenarnya adalah
masalah pencarian. Ada beberapa hal yang dapat Anda lakukan dalam suatu situasi, tetapi
bagaimana Anda tahu hal yang benar untuk dilakukan? Bagian dari itu tidak hanya mencari di
antara serangkaian hal yang dapat Anda lakukan, tetapi juga membangun apa yang menurut
Anda konsekuensinya.
Pertimbangkan program komputer catur lama, berapa banyak gerakan ke depan yang terlihat
dan itu menentukan seberapa baik mereka bermain?
Ada aturan yang dapat digunakan untuk merencanakan respons terhadap situasi permainan.
Ini adalah semacam "masalah frame" untuk mengetahui informasi apa yang tersedia dan
seberapa jauh pemain catur dapat berpikir ke depan.
Ketika Anda berbicara tentang masalah frame yang pada dasarnya Anda bicarakan adalah
semua kemungkinan kombinasi. Mempertimbangkan semua hal yang mungkin dapat Anda
lakukan tidak dapat dipahami oleh manusia, bahkan untuk catur. Dalam 35 langkah
permainan catur, ada sekitar 10120 opsi, lebih banyak dari jumlah atom di alam semesta dan
game GO bahkan lebih besar dengan 2.08 x 10170 bergerak dengan setiap titik akhir hingga
361 gerakan hukum. Namun ini sepele dibandingkan dengan biologi yang berurusan dengan
kompleksitas biologis otak manusia dengan 100 miliar neuron dan 100 Triliun koneksi.

Mengurangi Ruang Pencarian

Yang dilakukan framing sama dengan yang kita lihat dalam budaya dan bahasa manusia,
adalah menemukan cara untuk mengurangi ruang pencarian. Manusia melakukan banyak hal
dengan pembelajaran sosial, jadi ada gerakan yang tidak pernah Anda lakukan. Otak manusia
sangat pandai menyaring informasi dan berfokus pada tindakan perhatian khusus pada tugas
sampai komuter menyesuaikan tindakan bagaimana menangkap suatu objek. Orang-orang
menganggap kendala negatif sebagai hal negatif tetapi Anda dapat menyusun kembali bahwa
sebagai "fokus", pada dasarnya budaya Anda telah menempatkan di depan Anda hal-hal yang
paling mungkin berguna. Kami berbicara tentang "berpikir di luar kotak" yang pada dasarnya
Anda bicarakan adalah melakukan pencarian yang lebih besar, melompat ke area lain.

Cognitive Horizon/Cakrawala kognitif

Cakrawala kognitif adalah ide yang mungkin terkait dengan ini yang merupakan efek dari
"pelensaan" tetapi terkait dengan apa yang "dapat diketahui" dari perspektif apa yang dapat
dipahami manusia.
Konsep ini mirip dengan pandangan oleh Ph.D. Patrick Winston, Profesor Ford Intelegensi
Buatan dan Ilmu Komputer di MIT [1], dalam "Anda hanya dapat mempelajari sesuatu yang
hampir Anda ketahui" [2] yang menyarankan agar untuk belajar sesuatu, Anda harus sudah
memiliki latar belakang pengetahuan yang cukup tentang subjek yang dipertanyakan
sehingga pengajaran akan masuk akal, dan bahwa Anda dapat mengintegrasikannya ke
struktur pengetahuan yang ada [3].
Ini terkait erat dengan topik-topik seperti ilusi transparansi yang dihasilkan oleh bias tinjau
balik dan reinterpretasi otak manusia terhadap situasi; dan berlabuh diri dari ketidakmampuan
otak manusia untuk memvisualisasikan pikiran lain [4]. Fenomena ini disebutkan dalam
autobiografi Steve Wozniak, iWoz [5]. Dia mencatat bahwa konsep Apple I menggabungkan
terminal video dan komputer dalam satu kasus tampaknya merupakan perubahan yang
signifikan, tetapi dalam benaknya itu adalah keputusan sederhana. Dia sebelumnya
mengembangkan mikrokomputer seperti MITS Altair [6], tetapi menemukannya dibatasi oleh
antarmuka sakelar dan lampu yang tidak ramah. Dia juga telah mengembangkan terminal
video, yang bagus untuk berkomunikasi dengan komputer yang kuat dari jarak jauh.
Menggabungkan keduanya hanyalah langkah logis berikutnya [7-9].
Jadi Anda tidak akan tiba-tiba belajar bahasa Cina sekarang, itu sebabnya Anda harus terus
berusaha ketika mempelajari sesuatu yang baru atau meningkatkan kemahiran. Dalam
mengajarkan sesuatu kepada siswa Anda harus merancangnya menggunakan konsep dan data
pelatihan dan teknik lain untuk membangun pembelajaran.
Dari perspektif ilmu komputer, mesin dan kecerdasan alami lebih atau kurang sesuai
isomorfik atau serupa dalam bentuk dan hubungan. Dalam hal pencarian mereka identik jadi
pada dasarnya, dalam area subjek ada himpunan bagian yang berbeda dari hal-hal yang dapat
kita cari tetapi dalam hal membuat komputasi bekerja, dengan fokus pada fakta bahwa hanya
ada kecerdasan dan kecerdasan yang turun ke berbagai rangkaian masalah pencarian, ini
melibatkan secara bersamaan:
• Pencarian untuk rantai hal apa yang harus dilakukan?
• Tetapi juga hal-hal apa saja yang ada?
• Dan konteks seperti apa yang sebenarnya penting?
Jadi Anda belajar banyak hal yang berbeda pada saat yang sama tetapi masing-masing masih
dapat pencarian tunggal. Jika Anda mencoba mencari tahu konteksnya, Anda dapat
menganggapnya sebagai masalah pengelompokan informasi terkait. Anda mencoba mencari
cluster mana yang terbaik, dan ada berapa cluster?
Pemain catur sebenarnya telah melakukan yang lebih baik dengan menggunakan komputer
untuk mencari ruang ini. Ini tidak hanya melatih diri mereka dengan mereka tetapi mereka
juga menggunakannya dalam mengeksplorasi untuk memilih pola yang mereka eksploitasi.
Penggunaan jaringan saraf Dalam telah berkembang pesat sampai-sampai pada tahun 2015
Mesin Pembelajaran Jauh mengajar Catur sendiri dalam 72 Jam, dan kemudian bermain di
Tingkat Master Internasional. Prestasi ini adalah yang pertama di dunia dengan mesin yang
belajar bermain catur dengan mengevaluasi papan daripada menggunakan kekuatan kasar
untuk menghitung setiap gerakan yang mungkin [10].
Ini dapat digunakan di tempat lain untuk menemukan pola. Contoh lain adalah dalam
rekrutmen untuk memproses karyawan dengan berbagai tingkat pendidikan. Mereka telah
menggunakan algoritma mesin, melemparkan sejumlah besar data pada mereka dan membuat
kategori ini. Sebuah contoh di 2016 adalah sebuah perusahaan, HiringSolved mengumumkan
peluncuran beta RAI, "asisten intelijen buatan pertama untuk merekrut." Tujuan RAI dijual
sebagai cara untuk membebaskan perekrut dari kebosanan kandidat sumber [11, 12]. Sistem
ini menggunakan pengenalan pola untuk kandidat profil dan sementara dapat digunakan
untuk mempromosikan keragaman perekrutan dan menghilangkan bias manusia, sistem ini
juga dapat menimbulkan banyak pertanyaan tentang bagaimana kriteria dan data pelatihan
tersebut dikembangkan.

Berpikir Top Down dan Bottom up

Bidang penelitian di AI telah menentang pendekatan yang dirasakan dari bawah ke atas dari
pendekatan mekanistik pembelajaran mesin dan kurangnya pemikiran yang didorong oleh
hasil dari atas ke bawah. Masih ada perdebatan tetapi ketika Anda melihat beberapa orang
memproduksi perangkat lunak yang cukup bagus seperti dalam kasus mobil tanpa
pengemudi, Anda tidak dapat mengatakan tidak ada pemikiran top-down sama sekali.
Terkadang mereka tidak membicarakannya; Saya pikir salah satu hal yang sangat
menyenangkan adalah Uni Eropa yang membutuhkan semacam penjelasan. Bagi saya mereka
tidak dapat menggunakan pembelajaran yang mendalam. Ada beberapa cara yang dapat Anda
gunakan untuk menggambarkan pembelajaran mendalam yang dilakukan secara probabilistik
tetapi itu hanya berarti mereka harus berhenti mengatakan "kita tidak tahu". Saya tidak tahu
sejauh mana itu hanya penipuan, mereka hanya mengatakan ini untuk keluar dari hook atau
tidak memiliki pendidikan yang cukup luas dan tidak menyadari bahwa mereka perlu
mengetahui masalah yang lebih luas yang terlibat.
Ini semua adalah bagian dari pertanyaan kerangka tentang apa itu kecerdasan.
Sangat menarik ketika mempertimbangkan tingkat kecerdasan pada tumbuhan dan hewan
dibandingkan dengan manusia. Anda mengatakan segala sesuatu tidak benar-benar "cerdas"
kecuali mereka seperti manusia tetapi apakah itu tidak berarti bahwa alih-alih menggunakan
istilah kecerdasan, katakan saja "seperti manusia". Jadi saya pikir itu jauh lebih berguna
dalam membuat orang memahami proses nyata yang terlibat.

Keterampilan dalam Coding AI

Masalah utama adalah keterampilan yang dibutuhkan untuk memprogram pembelajaran
mesin. Sebuah perusahaan dapat mengembangkan dan merilis perpustakaan pembelajaran
mesin untuk membantu programmer mengembangkan keterampilan untuk belajar bagaimana
menjadi programmer yang lebih baik dalam AI. Pengkodean adalah seni dan sains. Sebagian
besar programmer mungkin tidak memiliki semua keterampilan untuk belajar menjadi
programmer yang hebat. Dengan kerumunan sumber dan membuat hal-hal open source
adalah mungkin untuk membantu meningkatkan banyak rata-rata untuk programmer yang
baik.
Agak mirip dengan Bill Joy, bakat pemrograman luar biasa dan jenis kode yang dia hasilkan
dan seluruh tim akan berjuang tetapi dia melakukan semuanya sendiri. Kecakapan Joy
sebagai programmer komputer sangat melegenda, dengan anekdot yang sering mengatakan
bahwa ia menulis editor vi, editor teks layar untuk sistem operasi Unix, di akhir pekan. Joy
menyangkal pernyataan ini [13].
Ini seperti sepak bola atau seni atau apa pun, beberapa orang hanya programmer luar biasa,
dan mereka dicari, tetapi mereka juga harus mencari tahu apa yang harus dilakukan dengan
30.000 programmer lain yang dipekerjakan dan mencoba membantu mereka, karena mereka
adalah masih jauh di atas rata-rata programmer sehingga mereka perlu mencari tahu
bagaimana mereka bisa menjadi berguna seperti yang bisa dan berkontribusi.
Mereka tidak ingin Anda harus tahu matematika dan melakukan semua hal ini, mereka hanya
ingin Anda bisa mengenali ketika Anda memanggil alat khusus ini seperti dalam pola
pemrograman lainnya

Etika Akses ke Pendidikan untuk Berpartisipasi dan Mendapat Manfaat

dari Pembelajaran Mesin
Ini memang berhubungan dengan pertanyaan etis tentang akses ke pendidikan dan
pengetahuan untuk memahami pembelajaran mesin dan menjadi bagian dari itu dalam
masyarakat. Itu di tingkat bawah, di tingkat paling atas dengan manajemen Anda memiliki
masalah seperti bagaimana ini akan mengubah dunia?
Sekarang dengan runtuhnya ruang yang dibawa oleh internet, saya tidak berpikir itu hanya
AI, ini lebih tentang komunikasi dan teknologi, mereka memiliki semua uang dan kekuatan
yang terhubung dengan internet dan transformasi teknologi ini di revolusi industri ke-4.
Pertanyaannya adalah bagaimana mendistribusikannya secara adil? Saya pikir akan ada
sejumlah besar redistribusi kekayaan transnasional, harus ada atau akan ada potensi
pertikaian antar pemerintah dan masalah lokal yang juga merupakan semacam redistribusi
transnasional.
Tantangan bagi banyak orang adalah mencoba memahami sesuatu yang tidak mereka
mengerti.

Kesejahteraan obyektif dan subyektif

Salah satu hal yang membuat orang tidak memiliki akses ke kekayaan ekonomi dan
kesehatan, membuat mereka kurang menerima orang berbeda adalah akses manusia ke
pendidikan dan kekayaan. Tampaknya pekerjaan sekarang kurang stabil, apa yang terjadi
dengan kualitas hidup ketika Anda memiliki semua layanan yang dapat diotomatisasi melalui
kecerdasan buatan? Salah satu hal dalam masyarakat adalah bagaimana mendefinisikan cara
untuk membagi kekayaan dan akses ke kesehatan dan sumber daya. Kami bahkan tidak tahu
untuk membagi, kami tidak lagi mendominasikan banyak transaksi dan uang kami ketika ini
bergerak ke ekonomi digital. Ini membuatnya sulit untuk menghasilkan pendapatan secara
tepat dari perspektif ini. Sulit mengatakan bisnis seperti apa yang dilakukan google atau
Facebook misalnya dari perspektif transnasional dalam hal ini. Ini bukan hanya ukuran
objektif kesejahteraan dari perspektif pendapatan dan kesehatan tetapi juga dari kesejahteraan
subyektif dalam hal kualitas hidup, kebahagiaan, dan kehidupan yang layak dijalani.
Ini adalah bidang-bidang yang berhubungan dengan kesejahteraan objektif dan subyektif dan
beberapa badan internasional dan pemerintah masih berusaha untuk mencari tahu apa itu nilai
dan bagaimana mengukurnya. Ini termasuk studi OECD tentang Pedoman Mengukur
Kesejahteraan Subjektif dan kemajuan masyarakat untuk keragaman dan keadilan kekayaan
dan distribusi kesehatan [14]. Penelitian lain adalah pada tingkat inti dari makna dan tingkat
kebahagiaan dan pemenuhan kehidupan manusia yang bermakna [15].
Hal-hal ini berdampak pada dalam hal otomatisasi dan kecerdasan buatan baik dalam hal
kehilangan pekerjaan maupun harga diri manusia pribadi yang ditentukan oleh pekerjaan.
Tetapi ini juga berdampak pada pertanyaan yang lebih besar tentang produktivitas dan
kesejahteraan masyarakat dalam apa yang akan dilakukan manusia ketika peningkatan
perubahan otomasi bekerja dan interaksi sosial. Sebaliknya, ketika kecerdasan artifisial
berusaha meniru dan mencerminkan emosi dan pemahaman nilai-nilai manusia, itu juga
berarti mampu mengukur dan mendefinisikan apa yang kesejahteraan dan nilai kehidupan
yang baik.

Eudaimonia Happiness: Sebuah Alternatif untuk Kebahagiaan Hedonic

Penelitian kesejahteraan telah mempertanyakan kebahagiaan hedonis yang didasarkan pada
peningkatan kesenangan dan penurunan rasa sakit yang mengarah pada kebahagiaan parutan
untuk konsep yang lebih maju dari kehidupan yang layak dijalani. Kebahagiaan Eudaimonia
memandang kebahagiaan sebagai berdasarkan pada kesejahteraan dan pertumbuhan manusia
melalui pengalaman yang baik dan kebaikan manusia. Eudaimonia menekankan bahwa tidak
semua keinginan layak dikejar, meskipun beberapa dari mereka mungkin menghasilkan
kesenangan, mereka tidak akan menghasilkan kesejahteraan.
Mendasari kesejahteraan psikologis didasarkan pada ide aktualisasi diri dari pertumbuhan
pribadi, penerimaan diri, otonomi, penguasaan lingkungan, hubungan positif dan tujuan yang
bermakna dalam hidup [16].
Ketika kebutuhan dasar manusia terpenuhi dan sejumlah faktor ini ketika puas mengarah
pada kesejahteraan [17].
Area ini juga bisa subjektif. Ini memengaruhi kesehatan Anda dan menariknya memengaruhi
kesehatan Anda dari apa yang Anda pikirkan sedang terjadi. Jadi, jika Anda menganggap diri
Anda meluncur ke bawah maka Anda akan kurang sehat, jika Anda menganggap diri Anda
dominan secara sosial daripada Anda akan lebih sehat. Ketika Anda memiliki akses yang baik
ke informasi yang baik yang dapat membuat Anda lebih sehat, itu dapat membantu Anda
membuat keputusan yang lebih baik tentang pakaian yang akan dikenakan di siang hari, ada
semua jenis informasi.
Ketika mesin menjadi lebih lazim di masyarakat, pertanyaan-pertanyaan ini dalam hal
dampak etika manusia dan masalah ini akan menjadi lebih mendesak.

Modularitas dan OOD

Mesin dengan penggunaan modularitas sebagai cara untuk merancang sistem multi-
komponen secara efisien. Ini adalah bidang yang penting dalam robotika di mana ada
perkembangan signifikan dalam hierarki perencanaan untuk robot.
Hirarki perencanaan dalam robotika berguna dalam otomasi keputusan dari gerakan ke
tindakan berdasarkan sensor dan prioritas respons [18].
Rodney Brookes, Roboticist, membuat orang menekankan modularitas, representasi minimal,
perencanaan terdesentralisasi. Desainnya bertujuan untuk melakukan arbitrase sehingga
modul-modulnya masih dapat berdiri sendiri sementara pada saat yang sama memungkinkan
Anda mengeksploitasi modul-modul lain jika Anda menginginkannya, sebuah prinsip yang
ditemukan dalam OOD.
Setiap sistem otonom harus dapat mengelola serangkaian prioritas dan proaktif dalam
mengerucut prioritas tersebut. Ini bisa terbukti sulit ketika mempertimbangkan pemrograman
untuk konkurensi misalnya.
Untuk membuat ini lebih mudah, saya membuat mereka berpikir tentang bagaimana Anda
mengatur prioritas dan bagaimana mereka berubah dalam menanggapi lingkungan dan hanya
menangani itu, karena di lingkungan alam banyak hal terjadi. Kebanyakan robot khusus hari
ini tentu saja hanya beroperasi di lingkungan yang dibatasi dan diketahui.
Orang-orang hanya berpikir bahwa AI hanyalah sesuatu yang memprogram dirinya sendiri,
tetapi sebenarnya ia mendengarkan lingkungannya dan gagasan tentang bagaimana umpan
balik cybernetic dan siklus tindakan diterapkan. Ini adalah masalah penting dalam desain
pembelajaran mesin dan representasi perencanaan yang perlu menjadi pola aksi yang dapat
dipelajari.
Awalnya kami menemukan bahwa kami tidak dapat memprogram semuanya seperti yang
telah ditentukan. Setiap bagian yang ada di sana sangat menonjol sehingga Anda tidak bisa
hanya belajar dari mesin tanpa menghilangkan tujuan yang terjadi.
Ini mirip dengan karya Carl Hewitt, Ilmuwan Komputer yang menciptakan pemrograman
perencana untuk teori perencanaan dan perencanaan otomatis dalam model aktor. Carl
mengembangkan model aktor untuk perhitungan untuk sistem yang kuat yang dapat
diskalakan. Aktor adalah entitas yang dapat menerima dan mengirim pesan serta membuat
aktor baru. Model Aktor dapat digunakan sebagai kerangka kerja untuk pemodelan,
pemahaman, dan penalaran tentang, berbagai sistem bersamaan [19]. Ini mendahului
pekerjaan sebelumnya pada formalisme aktor modular universal yang dikembangkan oleh
Hewitt dan tim pada tahun 1973 yang mengusulkan arsitektur Aktor modular dan metode
definisi untuk kecerdasan buatan [20].
Saya tidak berbicara tentang model aktor dalam sistem multi-agen dan sistem simultan; atau
setiap modul menjadi aktor. Saya benar-benar berbicara tentang pengaturan prioritas sistem
secara keseluruhan, jadi siapkan prioritasnya untuk masing-masing komponen sistem mesin.
Ini tentang "fokus" dan kombinatorik itu. Masing-masing komponen harus membuat masalah
program biasa sebanyak mungkin karena itulah yang ahli dalam program. Jadi Anda mencoba
menyederhanakan modularitas komponen sebanyak mungkin sementara pada saat yang sama
biarlah sekuat mungkin.
Orang-orang yang melakukan perencanaan otomatis harus membuat komponen sederhana
karena jika tidak, perencana tidak dapat merencanakan di sekitar mereka. Dalam kasus
kamera web, ponsel atau robot kita dapat memiliki modul untuk pengenalan wajah. Ini dapat
menjadi komponen dari sistem yang lebih besar yang terdiri dari banyak modul komponen
dengan tujuan untuk mencapai hasil keseluruhan.

Superintelijen atau Masa Depan yang Manusiawi

Salah satu ekstrem dari otomatisasi mesin adalah diskusi seputar kemunculan kecerdasan
buatan umum dan apa yang telah digambarkan sebagai kebangkitan kecerdasan super yang
terkenal oleh para pembicara terkemuka termasuk dan Elon Musk, Stephen Hawking dan
Nick Bostrum.
Sebuah isu sentral superintelijen oleh buku Nick Bostrum 2014 berpendapat bahwa jika otak
mesin melampaui otak manusia dalam kecerdasan umum, maka kecerdasan super baru ini
dapat menggantikan manusia sebagai bentuk kehidupan yang dominan di Bumi. Mesin yang
cukup cerdas dapat meningkatkan kemampuan mereka sendiri lebih cepat daripada ilmuwan
komputer manusia, dan hasilnya bisa menjadi bencana eksistensial bagi manusia [21].
Namun pandangan saya adalah mengasumsikan bahwa setiap intelijen ingin menguasai
dunia. Pandangan berlawanan dari Bostrum adalah bahwa kausalitas yang mirip dengan
seleksi alam Darwin dapat berarti bahwa sumber daya yang bersaing dapat mendorong
kecerdasan superior untuk mendominasi kecerdasan inferior menuju kepunahan.
Apa yang benar-benar mereka khawatirkan adalah bahwa betapa ajaibnya jika Anda memiliki
kapasitas manusia, Anda tidak perlu berubah menjadi kera dan kera seperti ibu. Itu tidak
masuk akal.
Mereka berpikir tentang hal itu tetapi mereka hanya berasumsi bahwa itulah artinya menjadi
cerdas, bahwa ketika Anda menjadi lebih cerdas Anda menjadi lebih seperti kita karena kita
adalah hal yang paling cerdas yang ada. Itu salah. Kita berbicara seperti Lamark dan
Lamarkisme [22].
Jadi kami antropomorfisasi dan menyimpulkan berbagai hal. Lamarck adalah versi evolusi
yang lebih tua sebelum Darwin. Gagasan dalam Lamarkisme adalah bahwa pada dasarnya
hal-hal yang berevolusi paling lama adalah manusia sehingga semuanya dimulai ketika
gelembung-gelembung kecil keluar dari gas rawa-rawa dan semua tanaman dan hewan yang
berbeda di mana pada tahap yang berbeda di sepanjang rantai evolusi yang menuntun Anda
kepada manusia sebagai puncak evolusi dewa.
Inilah yang saya maksud dengan Lamarck dan dalam konteks kecerdasan buatan adalah
bahwa ia tumbuh dan mendekati kita, dan itu salah, yaitu Lamarck.
"Kami sudah memiliki banyak entitas cerdas yang berjalan di planet ini, tidak semuanya
ingin mengambil alih dunia". Ini perlu dikacaukan dengan proporsi orang yang memiliki
sikap kompetitif lebih dari sekadar kolaboratif atau hanya asosial.
Di Eropa Anda cenderung stereotip budaya untuk mendapatkan lebih banyak orang yang
berorientasi pada kelompok, mereka mencoba untuk berpikir tentang memaksimalkan
kebaikan bersama. Mereka menghukum orang yang mereka rasa tidak berkontribusi pada
kelompok.
Lalu ada orang yang kompetitif yang bersedia membayar penalti untuk membuat Anda
membayar penalti yang lebih besar. Anda mendapatkan lebih banyak di negara-negara
dengan lebih banyak orang dan pendapatan, negara-negara miskin dan strategi yang lebih
kompetitif.
Orang-orang berpikir bahwa manusia memiliki kecerdasan umum ini dan membiarkan
kekhawatiran tentang kecerdasan umum buatan ini. Karena itu seperti kecerdasan manusia
tetapi hanya lebih baik. Tetapi manusia tidak memiliki kecerdasan umum. Kami memiliki
neuron yang terhubung dengan fungsi berbeda yang dilakukan pada bagian otak yang
berbeda. Bagian otak yang berbeda memiliki konektivitas yang sama sekali berbeda, dan
struktur yang berbeda.
Otak kita juga termodulasi dan itu adalah bagian dari alasan mengapa kita memiliki fokus.
Dan kita dapat mengingat sejumlah besar foto dan Anda dapat mengatakan apakah Anda
pernah melihatnya sebelumnya atau tidak tetapi Anda tidak melihatnya. Tetapi Anda tidak
mem-memo sebuah buku telepon. Jadi jelas ada spesialisasi yang bisa dan tidak bisa kita
lakukan.
Dalam meneliti mesin buku ini, para pakar ahli melihat super-intelijen dan kecerdasan umum
buatan dengan beberapa skeptisisme, melihat ini dalam jangka waktu 50 tahun-250 atau 300
tahun di masa depan. Tetapi hal-hal yang dibahas bermanfaat adalah menyoroti debat sosial
yang penting tentang konsekuensi mesin yang berpotensi dapat berpikir dan belajar untuk
berinteraksi dan secara mendalam mengubah pengalaman sosial dan manusia dalam revolusi
industri ke-4.

Kinerja Manusia Super

Apa yang terjadi sekarang bukanlah kecerdasan super. Ada kecerdasan manusia dan
kemudian ada kecerdasan buatan antropomorfisasi. Lalu ada pembelajaran mesin khusus atau
AI yang seperti pemecah kubus Infineon Rubik yang dapat memecahkan kubus dalam 0,67
detik [23].
Tapi itu tidak sama dengan pengalaman umum, itu hanya dapat melakukan satu hal yang
super cepat secara manusiawi.
Ini adalah kinerja super manusia, yang merupakan kecerdasan mesin canggih spesialis yang
dapat bekerja jauh lebih cepat yang bisa dilakukan oleh manusia. Anda tidak bisa berlari 100
meter dengan sepuluh Husain Bolts dalam 1 detik!
Ada hal-hal yang terjadi sekarang yang pada dasarnya akan mengubah lanskap kompetitif
pekerjaan dengan mesin yang tidak bisa dilakukan oleh manusia.
Ini benar sejak mereka menemukan alat selama ribuan tahun, saya pikir hal utama yang
berubah adalah tingkat perubahan. Kalkulator sudah bisa melakukan aritmatika lebih cepat
dari manusia mana pun. Tingkat perubahan meningkat dalam memperoleh kapasitas-
kapasitas ini yang jelas super manusiawi dengan cara yang tidak kita harapkan. Ya energi
penghematan google itu baik, saya mendengar contoh di tahun 1990-an dari energi propagasi
kembali jadi bukan hal baru tetapi karena google mendapat publisitas.
Tetapi ini merupakan peningkatan dari kecerdasan mesin spesialis yang pada dekade
sebelumnya tidak mungkin terjadi.
Itu adalah hal tentang spesialisasi, ide-ide yang lebih mengkombinasikan di mana Anda dapat
menerapkan berbagai hal dan memecahkan berbagai jenis masalah.
Saya benar-benar berpikir bahwa masalah besar adalah masalah sosial, salah satu bidang
yang saya teliti adalah berusaha mencari tahu apa artinya menjadi manusia? tentang etika
apa? Tentang estetika apa? Dengan asumsi kita dapat melakukan semua hal semacam ini, apa
yang ingin kita lakukan?
Banyak orang sudah menghadapi ini.

Hidup seperti tahun 1915, Depresi Hebat dan Dampak Teknologi

Jika Anda ingin hidup dengan standar kehidupan orang-orang dari tahun 1915, Anda hanya
perlu bekerja 17 minggu setahun di tahun 2017. Saya sebenarnya sudah mengenal orang-
orang seperti itu. Saya kenal seorang pria yang menanam pohon Natal dan dia benar-benar
hanya bekerja dua bulan dalam setahun. Dia punya Cabin di Michigan, dia punya teman, dia
mencintai hidupnya, dia sudah menikah tetapi dia berpisah karena istrinya tidak tahan. Tapi
dia masih bahagia dan punya kehidupan.
Anda dapat membuat keputusan semacam itu dan beberapa orang tidak melakukannya.
Saya benar-benar berpikir apa yang kita butuhkan sekarang adalah revolusi dalam
pemerintahan karena kita harus berurusan dengan ini. Setiap kali kita mendapatkan teknologi
baru ini, kita mendapatkan kekacauan kekayaan dan ketidaksetaraan ini, maka Anda
mendapatkan gangguan sosial dan akhirnya Anda mendapatkan jenis pemerintahan baru. Kita
perlu melakukan ini dengan sesedikit mungkin kerusakan dan rasa sakit.
Tetapi seberapa besar kita benar-benar membutuhkan penyesuaian ini ?, seberapa besar hal
itu mempengaruhi kehidupan kebanyakan orang? Banyak orang suka bekerja satu sama lain,
mereka sudah menjual kacang polong, melukis dinding; Kakek buyut saya adalah seorang
pelukis, itu adalah hal yang bisa kita lakukan jika kita tidak melakukannya.
Sudahkah Anda membaca, Jalan menuju Dermaga Wigan Oleh George Orwell diterbitkan
pada tahun 1937? Ini adalah serangkaian esai yang benar-benar memberi Anda gambaran
seperti apa rasanya hidup pada waktu itu. Ini adalah laporan yang membakar pengamatan
penulis tentang kondisi kehidupan kelas pekerja yang suram di jantung industri Yorkshire dan
Lancashire pada 1930-an sebelum Perang Dunia II. Ini berbicara tentang kondisi kehidupan
dan pekerjaan yang buruk dan kemiskinan yang parah sebelum memberikan meditasi panjang
tentang menciptakan masyarakat yang lebih adil.
Salah satu hal yang ia bicarakan adalah pengubah permainan yang “kita dapat membeli
pakaian dari rak”. Jadi hingga sekitar tahun 1920, jika Anda memikirkan hal ini, selama
ribuan tahun hingga sekitar tahun 1920, bagaimana Anda berpakaian benar-benar memberi
sinyal banyak tentang berapa banyak uang yang Anda miliki, itu adalah antrian sosial. Anda
tidak dapat memiliki kain bersih setiap minggu karena kain butuh waktu lama untuk
berkumpul.
Banyak waktu dimana orang-orang membuat pakaian ini hanya untuk keluarga mereka
sendiri. Ibu saya melakukan ini, saya tumbuh dengan mengenakan pakaian yang saya
kenakan sampai saya lebih tua dan lebih besar dari itu.
Dengan meningkatnya produksi mesin termasuk tenun otomatis dan produksi pakaian, ada
perubahan dalam kualitas hidup. George Orwell berbicara tentang perubahan-perubahan ini
dan mengilustrasikan jenis transformasi revolusi industri yang dibawa teknologi di era itu,
membawa kehidupan di The Road to Wigan Pier.

Perubahan Revolusi Industri ke-4 Berbeda

Revolusi Industri ke-4 menyoroti perubahan yang menggabungkan masalah teknologi, sosial,
biologi dan lingkungan. Contohnya perubahan iklim adalah risiko eksistensial. Di daerah lain
penggunaan kemajuan medis bioteknologi untuk perawatan penyakit untuk mobil self-driving
otomatis mengubah dasar dan dampak di luar efisiensi mekanik manusia untuk cara-cara baru
untuk mengubah cara sumber daya dan energi dikonsumsi untuk proses hidup dan
manajemen makanan.
Dimensi dari isu-isu ini bergerak dari skala manusia ke dampak pada seluruh transportasi dan
kota ke keprihatinan global yang bisa. Sementara beberapa orang dapat menghasilkan
kesehatan dan kesejahteraan yang lebih baik, orang lain jelas merupakan ancaman
eksistensial dari konsumsi sumber daya yang berlebihan hingga karbon dan polutan lain yang
memengaruhi setiap orang. Ini adalah masalah jahat karena teknologi dan organisasi sosial
saat ini mungkin tidak mampu menyelesaikan tantangan ini. Jika laju perubahan juga
meningkat maka bagaimana ini bisa diselesaikan akan membutuhkan solusi radikal dan
reimaginasi bagaimana teknologi dan kesadaran untuk sadar, merasakan, mengukur situasi
yang sebenarnya dan merespons mungkin memerlukan kecerdasan mesin dan AI.
Kami memiliki masalah besar, populasi yang berkelanjutan, bagaimana menjaga keamanan
individu dan populasi. Saya memiliki ini di halaman web pribadi saya sejak tahun 90-an
tetapi sekarang semua orang membicarakannya. Dan yang lain adalah mengapa Anda
membangun Inteligensi Buatan jika ada peluang sekecil mungkin untuk mengambil alih
dunia? yang menurut saya sebenarnya tidak akan terjadi. Tetapi bahkan jika ada peluang
terkecil, intinya adalah kita memiliki hal-hal lain yang merupakan ancaman besar, kita tahu
akan datang, dan kita harus menanganinya. Hal tentang manusia adalah mereka mampu
melakukan hal-hal buruk seperti itu. Pasti ada beberapa hal yang benar-benar buruk seperti
perdagangan manusia dan Suriah dan sepanjang sejarah umat manusia. Tetapi dengan sebuah
pawai kita juga sangat sukses dan kita sangat pro-sosial dan kita membuat perubahan dalam
skala besar. Ini tidak bisa dibayangkan tetapi kita mengubah biomassa seluruh planet dengan
tindakan kita sendiri dan hewan yang kita makan.
Saya pikir Nick Bostrom benar secara logis tentang kecerdasan super, tetapi salah untuk
berpikir bahwa itu saja dapat memberikan motif untuk Kecerdasan buatan. Apa yang
sebenarnya sedang dideskripsikan adalah deskripsi sempurna dari budaya manusia sejak kami
menulis sekitar 2000 tahun yang lalu. Anda baru saja mendapatkan peningkatan populasi
manusia yang luar biasa ini dan kemudian hal ini mengarah pada dominasi. Kami hanya
berbicara tentang hal yang sama.
Ini jelas bukan masalah sepele, tetapi jika kita memiliki energi yang tidak terbatas, kita akan
baik-baik saja atau jika kita menahan pemanasan global pada tingkat tertentu. Yang mendasar
adalah bahwa kita tidak dapat memiliki peningkatan populasi rata-rata lagi. Saya harap kita
semua akan tetap sehat. Itu adalah perubahan besar, semua orang tahu orang-orang yang
memiliki keluarga besar, itu adalah perubahan besar jika Anda berbicara tentang bagaimana
menjaga populasi tetap stabil atau bahkan menurun sehingga kita memiliki lebih banyak
ruang untuk mempertahankan keanekaragaman hayati. Ini luar biasa.

Transparansi dan Akuntabilitas atas Kewajiban dalam AI dan Status

Legal Robot
Kami berbicara tentang fakta bahwa orang dapat menggunakan penipuan satu sama lain dan
bahwa mereka dapat mengeksploitasi fakta bahwa orang-orang terobsesi dengan konsep AI
ini dan mereka dapat melakukan itu untuk mendapatkan dana dari pemimpin teknologi
Billionaire untuk lembaga universitas mereka. Mereka juga dapat melakukan itu untuk
mencoba keluar dari peraturan dan kewajiban peraturan.
Ada gagasan bahwa Anda membuat robot menjadi badan hukum dan kemudian Anda
mengenakan pajak pada mereka dan orang-orang kelas pekerja proletariat akan menyukainya
karena mereka akan menganggapnya sebagai pekerjaan saya yang sedang dipotong.
Komite Urusan Hukum Parlemen Eropa pada tahun 2016 mengembangkan gagasan
rancangan undang-undang yang menganggap status robot dan AI sebagai "orang elektronik"
dan kode etik sukarela untuk pemilik dalam peraturan yang akan bertanggung jawab atas
dampak sosial, lingkungan, dan kesehatan manusia dari robotika dan memastikan bahwa
mereka beroperasi sesuai dengan standar hukum, keselamatan dan etika [24]. Ini juga akan
membuat perubahan pada sistem perpajakan dan sosial untuk robotika untuk mendukung
perubahan dari otomatisasi dan dasar generasi perpajakan [25].
Tetapi sebenarnya intinya adalah mereka ingin mengubahnya menjadi orang elektronik yang
menghasilkan uang sendiri dan memiliki tanggung jawab sendiri dan itu hanya gila. Ini pada
dasarnya salah.
Anda telah membuat artefak dan Anda sepenuhnya bertanggung jawab untuk itu. Jadi
memahami pengertian keadilan yang baik dan kewajiban, sudah ada masalah di sini karena
perusahaan adalah badan hukum mereka dilindungi oleh kebangkrutan yang masuk akal bagi
orang atau badan hukum, untuk orang yang sebenarnya. Tetapi untuk sebuah perusahaan
yang memungkinkan mereka menciptakan perusahaan shell dan kemudian melepaskan
kewajiban, itu sudah menjadi masalah. Jika pada dasarnya Anda dapat membuat perusahaan
shell yang benar-benar memiliki orang di dalamnya, maka gagasan tentang legalitas etis
perusahaan berjalan. Tidak ada jalan lain dan keadilan untuk menghukum itu. Anda
menaikkan kode Pajak, saya akan menulis kode robot untuk menghindarinya tidak seperti
orang-orang di mana Anda benar-benar menghitungnya. Jadi kita dapat membangun cara
untuk menghindari kode pajak dan hal yang sama berlaku untuk kewajiban seperti
perusahaan shell.
Kurang ekstrim dari itu adalah algoritma sehingga orang-orang mengklaim bahwa mereka
tidak memiliki kewajiban atau transparansi karena solusinya ada di "sistem". Ini tidak benar,
Anda dapat menjelaskan dengan tepat mengapa sistem melakukan apa yang dilakukannya. Itu
tidak berarti Anda dapat mengatakan bagian mana dari program yang melakukannya; kami
tidak peduli tentang itu, lagi jika Anda membunuh seseorang dan mengatakan neuron itu.
Anda dapat memahami bagaimana sistem dilatih. Kami dapat bertanya kapan versi sistem
dirilis ?, apa proses yang Anda gunakan yang Anda putuskan valid? Itulah hal-hal yang
memasang penjelasan. Ada banyak jenis penjelasan yang berbeda dan penting untuk
membuat orang memahami bahwa ini bukan hanya kewajiban dan tidak mengizinkan para
insinyur ruang gerak ini untuk mencoba keluar dari masalah ini.
Untuk melakukan ini, perlu juga ada visibilitas untuk melihat apa yang sedang dilakukan. Ini
bukan hanya kewajiban hasil tetapi juga mampu melacak dan melihat apa yang sedang terjadi
dan apakah ada masalah.
Itu tergantung pada tingkat penjelasan yang Anda butuhkan dan apa yang diinginkan. Anda
masih dapat membuat sangat transparan protokol apa yang digunakan sistem tersebut untuk
dilatih, dan versi apa yang dirilis dan diberi otoritas itu. Tetapi juga dalam pertukaran, itu
persis seperti perlindungan lingkungan. Terkadang jika Anda berusaha keluar dan membuat
sistem yang lebih bisa dijelaskan, sistem yang lebih transparan, Anda justru berakhir dengan
sistem yang lebih baik karena desain juga diuntungkan oleh transparansi.

Desain Kebijakan AI dan Etika

Jika Anda mencoba memahami dampak dan perubahan AI, Anda sebenarnya berbicara
tentang etika juga. Etika adalah sarana yang digunakan masyarakat untuk bersatu dalam
ekosistem sosial yang lebih besar.
Prinsip-prinsip dan itulah sebabnya itu sebenarnya sebuah kontinum, itu adalah bagian dari
etika di seluruh kerangka sosial.
Ada berbagai jenis etika. Kami memiliki etika yang bahkan tidak kami pikirkan, kami bahkan
tidak tahu, dari norma sosial hingga area yang tidak pernah kami masuki seperti ruang pribadi
dan istilah ras. Kemudian kita memiliki hal-hal yang kita pelajari melalui agama atau
komunikasi sosial. Tapi kemudian kita memiliki hal-hal yang terus-menerus memodifikasi
seperti keputusan seputar kejahatan dan hukuman untuk keputusan seputar pendidikan,
perpajakan ekonomi dan distribusi pengambilan keputusan.
IEEE memiliki inisiatif internasional global untuk pertimbangan etis dalam Kecerdasan
Buatan dan Sistem Otonomi [26]. Saat ini sedang mengeksplorasi topik untuk standar dan
solusi baru, sertifikasi dan kode etik, dan pembangunan konsensus untuk implementasi etis
teknologi cerdas.
Dokumen pertama telah diterbitkan di forum terbuka tentang desain yang selaras secara etis.
Ini mendefinisikan EAD Design Ethically Aligned sebagai visi untuk memprioritaskan
Kesejahteraan manusia dengan kecerdasan buatan dan sistem otonom mewakili input kolektif
lebih dari seratus pemimpin pemikiran global dari akademisi, ilmu pengetahuan, pemerintah
dan sektor korporasi di bidang Kecerdasan Buatan, etika, filsafat, dan kebijakan.
Konsep dalam laporan pertama dan dieksplorasi oleh IEEE termasuk imitatif
• Prinsip-prinsip umum
• Memasukkan nilai-nilai ke dalam sistem cerdas otonom (AIS)
• Metodologi untuk Memandu Penelitian dan Desain Etis
• Keselamatan dan Kelaikan Inteligensi Buatan Buatan (AGI) dan Inteligensi Buatan (ASI)
• Data Pribadi dan Kontrol Akses Individual
• Membingkai Ulang Sistem Senjata Otonom
• Masalah Ekonomi / Kemanusiaan
• Hukum
Ruang lingkup publikasi terbaru dalam bidang ini diselidiki oleh IEEE global Ethics in AI
dan AS (Autonomous Systems) inisiatif termasuk kode etik untuk interaksi robot manusia
untuk mencegah penyalahgunaan, fisik dan mental melalui penggunaan agen buatan pada
manusia lain; dampak rasisme dan konsekuensi budaya yang diberlakukan melalui automata;
dampak privasi pribadi online; untuk perlindungan dan perlindungan bagi populasi rentan,
cacat dan perawatan mental.
Pengambilan keputusan moral adalah bagian sentral yang sering diperdebatkan dengan mobil
otonom tetapi dapat berlaku untuk situasi apa pun di mana kehidupan manusia mungkin
terancam secara langsung atau tidak langsung dari kedekatan dan tindakan sistem kecerdasan
otonom (AIS). Ini termasuk skenario penegakan, emosi, martabat, kepercayaan dan penipuan
yang mungkin terjadi dengan penggunaan dan keberadaan sistem berbasis AIS.
Penyelidikan ekspansif serupa yang dijelaskan dalam sebuah laporan oleh Stanford
University September 2016 berjudul "Studi seratus tahun tentang Kecerdasan Buatan dan
kehidupan pada tahun 2030", adalah penyelidikan jangka panjang ke bidang Kecerdasan
Buatan (AI) dan pengaruhnya terhadap orang, komunitas mereka. - ikatan, dan masyarakat.
Ini mempertimbangkan sains, teknik, dan penyebaran sistem komputasi AI-enabled [27].
Laporan Stanford menyatakan bahwa Masyarakat saat ini berada pada titik kritis dalam
menentukan bagaimana menyebarkan teknologi berbasis AI dengan cara yang
mempromosikan daripada menghambat nilai-nilai demokrasi seperti kebebasan, kesetaraan,
dan transparansi.
Dalam dunia sistem bisnis dan strategi bisnis yang mengumpulkan semacam pendekatan
yang meyakinkan seperti dalam inovasi untuk pengembangan standar dalam industri. Ini
adalah tentang perubahan praktis dalam bagaimana kita perlu memahami teknologi baru ini
dan model bisnis baru serta konsekuensi.

Ringkasan
Visi dystopian bisa jadi salah satu ketakutan nyata adalah polarisasi berbagai ide yang
ditantang oleh dampak AI pada masyarakat. Misalnya, promosi perlakuan istimewa satu
kelompok di atas yang lain atau mengapa perusahaan mencari satu dari sejuta programmer
hebat. Yang lain mencari akses pendidikan yang baik untuk semua orang, nutrisi yang baik,
perbatasan terbuka dan semua cita-cita liberal. Jika sampai pada titik di mana kita bisa
memprogram hal-hal untuk mempengaruhi dan mengendalikan bagian masyarakat hanya dari
AI maka itu akan menjadi bencana.
Saya tidak melihat bahwa sebagai stabil dalam jangka panjang, Anda perlu memiliki
masyarakat yang cukup besar, mungkin bukan 9 miliar orang, tetapi Anda membutuhkan
keragaman yang membutuhkan liberalisme, itu sebenarnya sesuatu yang disebut biologi
sebagai hal mendasar dari evolusi. Jumlah keragaman menentukan tingkat perubahan dan
saya pikir itu adalah bagian dari mengapa orang takut akan imigrasi misalnya karena
perubahan itu sulit. Jika Anda tidak memiliki keragaman yang Anda atropi tetapi jika Anda
terlalu sedikit keragaman Anda menjadi rapuh, Anda tidak dapat beradaptasi. Uni- versa tidak
tinggal diam. Anda membutuhkan keanekaragaman, Anda membutuhkan lebih banyak
ketangkasan.
Ini bisa menjadi efek homogenisasi pembelajaran mesin atau massa 1-0-1 untuk personalisasi
individu. Ada banyak hal untuk dimainkan dan banyak aspek perundang-undangan dan tata
kelola masih dieksplorasi dan ditulis.
Otomatisasi mesin dan Kecerdasan Buatan akan mengubah pengambilan keputusan dalam
banyak cara dari cara kerja dan produktivitas manusia akan bekerja untuk menggantikan atau
membantu industri dan pengalaman baru secara fundamental. Bagaimana transparansi,
privasi dan pertanyaan etis akan diselesaikan akan berlanjut sebagai perubahan yang
diperlukan karena kecerdasan buatan ini menjadi terjerat dengan pengalaman kita sendiri,
pilihan hidup dan kesejahteraan yang sangat biologis dan lingkungan.
Apa yang baru beberapa dekade lalu merupakan mimpi fantastik dan fiksi ilmiah murni
sudah ada bersama kita atau pada cakrawala kognitif masa hidup generasi sekarang dan
selanjutnya.
Apa yang akan terjadi di masa depan untuk dekade mendatang dan anak-anak kita?
Inteligensi Buatan adalah kotak Pandora yang telah dibuka dan tidak akan pernah sama
dengan saat kita memasuki revolusi pasca-industri baru yang akan mendefinisikan ulang dan
sangat penting bagi kelangsungan hidup dunia yang sumber dayanya semakin terbatas dan
saling terhubung.