Yuval Noah Harari tentang AI

(00:00) Asing [Musik] terima kasih atas pengantar yang luar biasa ini dan ya, apa yang ingin saya
bicarakan kepada Anda adalah AI dan masa depan umat manusia. Saya tahu bahwa konferensi ini
difokuskan pada krisis ekologis yang dihadapi umat manusia, tetapi baik buruknya, AI juga bagian dari
krisis ini. AI dapat membantu kita dalam banyak cara untuk mengatasi krisis ekologis atau dapat
membuatnya jauh lebih buruk. Sebenarnya, AI kemungkinan akan mengubah makna sistem ekologi itu
sendiri karena selama 4 miliar tahun, sistem ekologi planet Bumi hanya mengandung kehidupan organik.

(01:06) dan sekarang atau segera kita mungkin akan melihat munculnya bentuk kehidupan anorganik
pertama selama 4 miliar tahun atau setidaknya munculnya agen anorganik. Sekarang, orang-orang sudah
takut pada AI sejak awal era komputer pada pertengahan abad ke-20 dan ketakutan ini telah mengilhami
banyak karya sastra fiksi ilmiah seperti The Terminator dan The Matrix. Meskipun skenario fiksi ilmiah
semacam itu telah menjadi landmark budaya, biasanya mereka tidak serius diperdebatkan dalam diskusi
akademis, ilmiah, dan politik dan mungkin dengan alasan yang baik.

(01:54) karena skenario fiksi ilmiah biasanya berasumsi bahwa sebelum AI dapat menjadi ancaman yang
signifikan bagi umat manusia, ia harus mencapai atau melewati dua tonggak penting pertama, AI harus
menjadi sadar dan mengembangkan kesadaran, perasaan, emosi. jika tidak, mengapa ia bahkan ingin
menguasai dunia? Kedua, AI harus menjadi mahir dalam menjelajahi dunia fisik, robot harus mampu
bergerak dan beroperasi di rumah, kota, gunung, dan hutan setidaknya segesit dan efisien manusia. Jika

(02:45) mereka tidak dapat bergerak di dunia fisik, bagaimana mungkin mereka menguasainya dan per
April 2023, AI masih jauh dari mencapai salah satu tonggak ini. Meskipun semua hype seputar Chat GPT
dan alat AI baru lainnya, tidak ada bukti bahwa alat-alat ini memiliki kesadaran, perasaan, atau emosi
sedikitpun. Mengenai menjelajahi dunia fisik, meskipun ada hype seputar kendaraan otonom, tanggal di
mana kendaraan ini akan mendominasi jalan masih terus ditunda. Namun, kabar buruknya adalah bahwa
untuk mengancam

(03:37) kelangsungan peradaban manusia, AI sebenarnya tidak membutuhkan Kesadaran dan tidak
membutuhkan kemampuan untuk bergerak di dunia fisik. Selama beberapa tahun terakhir, alat AI baru
telah dilepaskan ke ruang publik yang mungkin mengancam kelangsungan peradaban manusia dari arah
yang sangat tidak terduga. Sulit bagi kita untuk benar-benar memahami kemampuan-kemampuan alat AI
baru ini dan kecepatan perkembangannya. Memang, karena AI mampu belajar sendiri untuk
memperbaiki dirinya sendiri, bahkan pengembang alat-alat ini sendiri tidak

(04:27) mengetahui kemampuan penuh dari apa yang mereka ciptakan dan mereka sendiri seringkali
terkejut dengan kemampuan-kemampuan dan kualitas-kualitas yang muncul dari alat-alat ini. Saya kira
semua orang di sini sudah menyadari beberapa kemampuan paling mendasar dari alat AI baru ini,
seperti kemampuan menulis teks, menggambar gambar, menggubah musik, dan menulis kode, tetapi
ada banyak kemampuan tambahan yang sedang muncul, seperti pembuatan deepfake suara dan gambar
orang, seperti merancang rancangan undang-undang, menemukan kelemahan dalam kode komputer,
dan juga dalam kontrak hukum

(05:17) dan kesepakatan hukum. Tetapi mungkin yang paling penting, alat AI baru ini semakin memiliki
kemampuan untuk mengembangkan hubungan yang dalam dan intim dengan manusia. Setiap
kemampuan ini layak untuk diperdebatkan secara menyeluruh dan sulit bagi kita untuk memahami
implikasi penuhnya. Jadi mari kita membuatnya sederhana, saat kita menggabungkan semua
kemampuan ini sebagai satu paket, intinya adalah satu hal yang sangat sangat besar, yaitu kemampuan
untuk memanipulasi dan menghasilkan bahasa, baik dengan kata-kata, gambar, atau suara, aspek paling
penting dari yang ada sekarang

(06:09) Fase Revolusi AI yang sedang berlangsung adalah bahwa AI menguasai bahasa pada tingkat yang
melebihi kemampuan rata-rata manusia, dan dengan menguasai bahasa, AI merebut kunci utama yang
membuka pintu semua institusi kita, mulai dari Bank hingga Kuil, karena bahasa adalah alat yang kita
gunakan untuk memberikan instruksi kepada bank kita dan juga untuk mengilhami Visi Surgawi dalam
pikiran kita. Cara lain untuk memahaminya adalah bahwa AI baru saja meretas sistem operasi peradaban
manusia, sistem operasi setiap budaya manusia dalam sejarah selalu berupa bahasa. Pada awalnya
adalah kata. Kita menggunakan bahasa untuk menciptakan mitologi dan hukum, menciptakan dewa dan
uang, menciptakan Seni dan Sains, menciptakan persahabatan dan Bangsa. Sebagai contoh, hak asasi
manusia bukanlah realitas biologis, mereka tidak terukir dalam DNA kita. Hak asasi manusia adalah
sesuatu yang kita ciptakan dengan Bahasa dengan menceritakan cerita dan menulis undang-undang.
Dewa juga bukan realitas biologis atau fisik.p Dewa juga adalah sesuatu yang kita manusia ciptakan
dengan Bahasa dengan menceritakan Legenda dan menulis

(07:53) kitab suci. Uang bukanlah realitas biologis atau fisik. Uang kertas hanyalah selembar kertas yang
tidak berharga dan saat ini lebih dari 90 persen uang di dunia bahkan bukan uang kertas, itu hanya
informasi elektronik di komputer yang berpindah dari sini ke sana. Yang memberikan nilai pada uang
jenis apapun hanyalah cerita-cerita yang diceritakan oleh orang-orang seperti bankir, menteri keuangan,
dan pakar cryptocurrency tentang uang. Sam Bankman-Freed, Elizabeth Holmes, dan Bernie Madoff
tidak menciptakan banyak nilai nyata, tetapi sayangnya mereka semua adalah pembuat cerita yang
sangat mampu.

(08:41) pembuat cerita yang sangat mampu. Sekarang, apa artinya bagi manusia untuk hidup di dunia di
mana mungkin sebagian besar cerita, melodi, gambar, hukum, kebijakan, dan alat-alat dibentuk oleh
kecerdasan alien non-manusia yang tahu bagaimana memanfaatkan dengan efisiensi luar biasa
kelemahan, kecenderungan, dan ketergantungan pikiran manusia, serta tahu bagaimana membentuk
hubungan yang dalam dan intim dengan manusia. Itulah pertanyaan besar. Hari ini, dalam permainan
seperti catur, tidak ada manusia yang bisa berharap mengalahkan komputer. Bagaimana jika hal yang
sama terjadi dalam seni, politik, ekonomi, dan bahkan agama? Ketika orang berpikir tentang chant GPT
dan alat AI baru lainnya, mereka sering kali tertarik pada contoh seperti anak-anak yang menggunakan
Chajipiti untuk menulis esai sekolah mereka. Apa yang akan terjadi pada sistem pendidikan ketika anak-
anak menulis esai dengan Chajipiti, mengerikan. Tetapi pertanyaian semacam ini melewatkan gambaran
besar. Lupakan esai sekolahnya. Sebaliknya, coba bayangkan dampak alat AI baru yang dapat
memproduksi massal manifesto politik, cerita berita palsu, dan bahkan kitab suci untuk sekte-sekte baru
pada pemilihan presiden AS berikutnya pada tahun 2024. Dalam beberapa tahun terakhir, sekte Q Anon
yang berpengaruh secara politik terbentuk di sekitar teks-teks anonim online yang dikenal sebagai Q
drops. Para pengikut sekte ini, yang jumlahnya jutaan di AS dan di seluruh dunia, mengumpulkan,
meninjau, dan menafsirkan Q drops ini sebagai semacam kitab suci baru. Jadi, teks suci sekarang,
menurut pengetahuan kita sejauh ini, semua Q drops sebelumnya dikomposisikan oleh manusia.

(10:59) (10:59) Makhluk hidup dan Bot hanya membantu menyebarkan teks-teks ini secara online, tetapi
di masa depan kita mungkin akan melihat sekte dan agama pertama dalam sejarah yang teks-teks yang
ditinjau tersebut ditulis oleh kecerdasan non-manusia. Tentu saja, agama-agama sepanjang sejarah
mengklaim bahwa kitab-kitab suci mereka ditulis oleh kecerdasan non-manusia, tetapi hal ini belum
pernah benar sebelumnya. Namun, hal ini bisa menjadi kenyataan dengan cepat dengan konsekuensi
yang luas. Sekarang, pada tingkat yang lebih biasa, kita mungkin segera menemukan diri kita melakukan
diskusi online panjang tentang topik seperti aborsi, perubahan iklim, atau invasi Rusia ke Ukraina dengan
entitas yang kita kira adalah sesama manusia, tetapi sebenarnya adalah AI Bot. Namun, ada satu hal yang
penting, yaitu upaya kita untuk meyakinkan AI bot untuk mengubah pandangan politiknya sama sekali
tidak berguna dan sia-sia. Semakin lama kita berbicara dengan bot, semakin baik ia mengenal kita dan
memahami cara untuk menyempurnakan pesannya agar dapat mengubah pandangan politik kita,
pandangan ekonomi, atau apapun melalui penguasaan AI terhadap bahasa. Seperti yang telah saya
katakan sebelumnya, AI juga dapat membentuk hubungan yang intim dengan manusia dan
menggunakan kekuatan kedekatan untuk mempengaruhi pendapat dan pandangan kita. Sekarang, tidak
ada indikasi bahwa AI memiliki kesadaran atau perasaan sendiri, tetapi untuk menciptakan kedekatan
palsu dengan manusia, AI tidak perlu memiliki perasaan sendiri, ia hanya perlu mampu menginspirasi
perasaan dalam diri kita untuk membuat kita terikat padanya. Sekarang, pada Juni 2022

(13:17) Terjadi insiden terkenal ketika insinyur Google, Blake Lemon, secara terbuka mengklaim bahwa
chat AI tentang Lambda yang sedang ia kerjakan telah menjadi sadar diri. Klaim kontroversial ini
membuatnya kehilangan pekerjaannya dan dipecat. Yang paling menarik dari episode ini bukanlah klaim
Lemon yang kemungkinan besar tidak benar, melainkan keberaniannya untuk mengambil risiko dan
akhirnya kehilangan pekerjaan yang sangat menguntungkan demi kepentingan AI chatbot yang ia anggap
dilindunginya. Jika AI dapat mempengaruhi orang untuk mengambil risiko dan kehilangan pekerjaan, apa
lagi yang dapat AI bujuk kita lakukan? Dalam setiap pertempuran politik untuk hati dan pikiran,
kedekatan adalah senjata paling efektif dari semua senjata, dan AI baru saja memperoleh kemampuan
untuk menciptakan kedekatan dengan jutaan, bahkan ratusan juta orang. Seperti yang mungkin Anda
semua tahu, selama dekade terakhir media sosial telah menjadi medan pertempuran untuk
mengendalikan perhatian manusia. Sekarang, dengan generasi baru AI, medan pertempuran tersebut
berpindah dari perhatian ke kedekatan, dan ini adalah kabar yang sangat buruk. Apa yang akan terjadi
pada masyarakat manusia dan psikologi manusia saat AI saling berperang dalam pertempuran
menciptakan hubungan yang intim dengan kita, hubungan yang kemudian dapat digunakan untuk
meyakinkan kita membeli produk tertentu...

(14:55) atau memilih politikus tertentu, bahkan tanpa menciptakan kedekatan palsu, alat AI baru akan
memiliki pengaruh yang sangat besar pada pendapat manusia dan pandangan dunia kita. Misalnya,
orang-orang mungkin mulai menggunakan satu penasihat AI sebagai Sumber Utama dan sumber
informasi yang mereka butuhkan. Tak heran jika Google ketakutan. Jika Anda telah mengikuti buletin
berita, Google ketakutan, dan dengan alasan yang baik. Mengapa repot-repot mencari sendiri ketika
Anda bisa langsung bertanya pada Oracle untuk memberi tahu Anda apa pun yang Anda inginkan? Anda
tidak perlu mencari berita lagi. Industri berita dan industri periklanan juga harus merasa takut. Mengapa
membaca koran jika saya bisa langsung bertanya pada Oracle tentang perkembangan terbaru? Dan apa
gunanya iklan ketika saya bisa langsung bertanya pada Oracle apa yang harus saya beli? Ada
kemungkinan bahwa dalam waktu yang sangat singkat, seluruh industri periklanan akan runtuh,
sementara AI atau para orang dan perusahaan yang mengendalikan orakel AI baru akan menjadi sangat
kuat.
(16:23) Yang kita bicarakan di sini adalah tak kurang dari akhir sejarah manusia. Bukan akhir Sejarah
secara keseluruhan, melainkan akhir dari bagian yang didominasi oleh manusia dari apa yang kita sebut
sejarah. Interaksi antara biologi dan budaya, interaksi antara kebutuhan dan keinginan biologis kita
seperti makanan dan seks dengan kreasi budaya kita seperti agama dan hukum. Sejarah adalah proses di
mana agama dan hukum berinteraksi dengan makanan dan seks. Lalu, apa yang akan terjadi pada
penyebab interaksi ini dalam sejarah ketika AI...

(17:07) mengambil alih budaya dalam beberapa tahun AI bisa "memakan" seluruh budaya manusia,
segala hal yang telah diproduksi selama ribuan tahun, mencernanya, dan mulai memancarkan banjir
kreasi budaya baru, artefak budaya baru. Ingatlah bahwa kita, manusia, sebenarnya tidak memiliki akses
langsung ke realitas. Kita selalu dibungkus oleh budaya dan selalu mengalami realitas melalui penjara
budaya. Pandangan politik kita dibentuk oleh cerita-cerita dari jurnalis dan oleh anekdot dari teman-
teman kita. Preferensi seksual kita dipengaruhi oleh film dan dongeng. Bahkan cara kita berjalan dan
bernapas pun dipengaruhi oleh tradisi budaya. Sebelumnya, sarang budaya ini selalu dihasilkan oleh
manusia, alat-alat sebelumnya seperti mesin cetak atau radio atau televisi membantu menyebarkan
gagasan dan kreasi budaya manusia, tetapi mereka tidak bisa menciptakan sesuatu yang baru dengan
sendirinya. Mesin cetak tidak bisa menciptakan buku baru, selalu dilakukan oleh manusia. AI secara
fundamental berbeda dari mesin cetak, radio, atau setiap penemuan sebelumnya dalam sejarah, karena
AI dapat menciptakan ide-ide sepenuhnya baru, menciptakan budaya baru. Pertanyaan besar adalah
seperti apa pengalaman realitas melalui prisma yang dihasilkan oleh kecerdasan non-manusia, oleh
kecerdasan alien. Pada awalnya, dalam beberapa tahun pertama, AI mungkin akan meniru prototipe
manusia yang memberinya makanan saat bayi, tetapi seiring berjalannya waktu, budaya AI akan berani
pergi ke tempat yang belum pernah dijelajahi manusia sebelumnya. Selama ribuan tahun, kita manusia
sebagian besar hidup di dalam mimpi dan fantasi manusia lain. Kita telah memuja para dewa, mengejar
cita-cita keindahan, dan mengabdikan hidup kita pada tujuan-tujuan yang berasal dari imajinasi penyair,
nabi, atau politisi manusia. Segera, kita mungkin menemukan diri kita hidup di dalam mimpi dan fantasi
kecerdasan alien, dan bahaya yang melekat padanya adalah potensi bahaya yang juga memiliki potensi
positif, tetapi bahaya yang melekat padanya adalah fundamental dan sangat berbeda dari segala hal atau
sebagian besar hal yang terbayangkan dalam film dan buku fiksi ilmiah.

(20:15) Sebelumnya, orang-orang sebagian besar takut akan ancaman fisik yang ditimbulkan oleh mesin
cerdas. Misalnya, The Terminator menggambarkan robot berlari di jalan dan menembaki orang-orang.
The Matrix mengasumsikan bahwa untuk mengendalikan sepenuhnya masyarakat manusia, AI pertama-
tama harus mendapatkan kendali fisik atas otak kita dan menghubungkan otak kita secara langsung ke
jaringan komputer. Tetapi ini salah. Dengan menguasai bahasa manusia, AI memiliki semua yang
diperlukan untuk menciptakan dunia ilusi seperti dalam matriks. Berbeda dengan apa yang beberapa
teori konspirasi asumsikan, sebenarnya tidak perlu menanamkan chip di otak orang untuk
mengendalikan mereka atau memanipulasi mereka. Selama ribuan tahun, para filsuf, penyair, dan politisi
telah menggunakan bahasa dan cerita untuk memanipulasi dan mengendalikan manusia, serta
mengubah masyarakat. Kini, AI kemungkinan dapat melakukannya, dan saat ia dapat melakukannya, ia
tidak perlu mengirimkan robot pembunuh untuk menembak kita. Ia dapat mendorong manusia untuk
menekan pelatuk jika memang perlu. Ketakutan terhadap AI hanya menghantui umat manusia dalam
beberapa generasi terakhir, misalnya sejak pertengahan abad ke-20. Jika kita kembali ke Frankenstein,
mungkin sekitar 200 tahun. Namun, selama ribuan tahun, manusia telah dihantui oleh ketakutan yang
jauh lebih dalam. Manusia selalu menghargai kekuatan cerita, gambar, dan bahasa untuk memanipulasi
pikiran kita dan menciptakan ilusi. Oleh karena itu, sejak zaman kuno, manusia takut terperangkap dalam
dunia ilusi. Pada abad ke-17, Descartes takut bahwa mungkin ada iblis jahat yang menjebaknya dalam
dunia ilusi semacam itu, menciptakan segala sesuatu yang ia lihat dan dengar.

(22:32) Di Yunani kuno, Plato menceritakan alegori terkenal tentang gua, di mana sekelompok orang
terbelenggu di dalam gua sepanjang hidup mereka, menghadap dinding kosong. Di atas dinding itu,
mereka melihat bayangan-bayangan yang diproyeksikan, dan para tahanan ini salah menganggap Ilusi ini,
bayangan-bayangan itu, sebagai kenyataan. Di India kuno, para biksu Buddha dan para bijak Hindu
menunjukkan bahwa semua manusia hidup terperangkap di dalam apa yang mereka sebut sebagai
Maya. Maya adalah dunia ilusi. Buddha mengatakan bahwa apa yang biasanya kita anggap sebagai
kenyataan seringkali hanya fiksi-fiksi dalam pikiran kita sendiri. Orang-orang bisa menjalankan perang-
perangan yang melibatkan pembunuhan orang lain dan mereka sendiri rela mati karena kepercayaan
mereka pada fiksi-fiksi ini. Revolusi AI membawa kita berhadapan dengan iblis kartu dengan Gua Plato,
dengan Maya. Jika kita tidak berhati-hati, tirai ilusi bisa turun menutupi seluruh umat manusia, dan kita
tidak akan pernah bisa mengoyak tirai itu atau bahkan menyadari keberadaannya, karena kita akan
menganggap ini sebagai kenyataan. Dan jika ini terdengar jauh berlebihan, cukup lihat media sosial
selama beberapa tahun terakhir. Media sosial telah memberi kita sedikit pengalaman tentang apa yang
akan datang. Di media sosial, alat-alat AI yang primitif namun sangat primitif digunakan bukan untuk
menciptakan konten, tetapi untuk mengurasi konten yang dihasilkan oleh manusia. Manusia
menghasilkan cerita-cerita dan video-video, dan AI memilih cerita-cerita dan video-video mana yang
akan mencapai telinga dan mata kita, memilih yang akan mendapatkan perhatian terbanyak, yang akan
menjadi viral. Dan meskipun sangat primitif, alat-alat AI ini sudah cukup untuk menciptakan tirai ilusi ini
yang meningkatkan polarisasi masyarakat di seluruh dunia, merusak kesehatan mental kita, dan
menggoyahkan masyarakat demokratis. Jutaan orang telah menganggap ilusi-ilusi ini sebagai kenyataan.
Amerika Serikat memiliki teknologi informasi yang paling kuat dalam sejarah, namun warganya tidak lagi
bisa sepakat tentang siapa yang memenangkan pemilihan terakhir, apakah perubahan iklim itu nyata,
atau apakah vaksin mencegah penyakit atau tidak. Alat-alat AI baru ini jauh lebih kuat daripada
algoritma-algoritma media sosial ini, dan mereka bisa menyebabkan kerusakan yang jauh lebih besar.
Tentu saja, AI memiliki potensi positif yang sangat besar juga. Saya tidak membicarakannya karena orang-
orang yang mengembangkan AI secara alami sudah cukup membicarakannya, Anda tidak perlu saya
menambahkan kepadanya. Tugas para sejarawan dan filsuf seperti saya seringkali adalah untuk
menunjukkan bahaya-bahaya tersebut. Namun, tentu saja, AI dapat membantu kita dalam banyak hal,
mulai dari menemukan obat baru untuk kanker hingga menemukan solusi untuk krisis ekologis yang kita
hadapi. Agar alat-alat AI baru ini digunakan untuk kebaikan dan bukan kejahatan.

(26:25) Pertama-tama, kita perlu menghargai kemampuan sebenarnya dari AI ini, dan kita perlu
mengatur regulasinya dengan sangat hati-hati. Sejak tahun 1945, kita tahu bahwa teknologi nuklir dapat
menghancurkan peradaban manusia secara fisik, sekaligus memberikan manfaat kepada kita dengan
menghasilkan energi yang murah dan melimpah. Oleh karena itu, kita membentuk kembali seluruh
tatanan internasional untuk melindungi diri kita sendiri dan memastikan bahwa teknologi nuklir
digunakan terutama untuk kebaikan. Sekarang kita harus berhadapan dengan senjata pemusnah massal
baru yang dapat memusnahkan dunia mental dan sosial kita. Dan satu perbedaan besar antara senjata
nuklir dan AI adalah senjata nuklir tidak dapat menghasilkan senjata nuklir yang lebih kuat, sedangkan AI
dapat menghasilkan AI yang lebih kuat. Oleh karena itu, kita perlu bertindak cepat sebelum AI keluar dari
kendali kita sendiri.
Perusahaan farmasi tidak dapat menjual obat-obatan baru kepada orang-orang tanpa terlebih dahulu
melalui uji keamanan yang ketat. Laboratorium bioteknologi tidak dapat langsung melepaskan virus baru
ke dalam masyarakat untuk mengesankan para pemegang saham mereka dengan kecanggihan teknologi.
Demikian pula, pemerintah harus segera melarang rilis ke domain publik dari alat-alat AI revolusioner
lainnya sebelum keamanannya terjamin kembali. Saya tidak berbicara tentang menghentikan semua
penelitian dalam bidang AI. Langkah pertama adalah menghentikan rilisnya ke masyarakat umum. Anda
bisa melakukan penelitian tentang virus tanpa melepaskannya ke domain publik. Anda bisa melakukan
penelitian tentang AI, tetapi jangan melepaskannya terlalu cepat ke domain publik. Jika kita tidak
melambatkan perlombaan senjata AI ini, kita tidak akan memiliki waktu untuk memahami apa yang
terjadi, apalagi mengatur teknologi yang luar biasa kuat ini dengan efektif.

Mungkin Anda bertanya-tanya, apakah melambatkan penggunaan AI di masyarakat umum akan

membuat demokrasi tertinggal dibanding rezim otoriter yang lebih kejam? Jawabannya adalah tidak,
sebaliknya, penggunaan AI tanpa pengaturan adalah yang akan membuat demokrasi kalah dari
kediktatoran. Karena jika kita melepaskan kekacauan, rezim otoriter akan lebih mudah mengendalikan
kekacauan tersebut daripada masyarakat terbuka. Demokrasi pada dasarnya adalah percakapan,
demokrasi adalah percakapan terbuka. Diktator adalah perintah, ada satu orang yang mengatur
segalanya tanpa percakapan. Demokrasi adalah percakapan.

(29:27) antara banyak orang tentang apa yang harus dilakukan, dan percakapan bergantung pada
bahasa. Ketika AI meretas bahasa, itu berarti AI dapat menghancurkan kemampuan kita untuk
melakukan percakapan publik yang bermakna, dengan demikian menghancurkan demokrasi. Jika kita
menunggu kekacauan, akan terlambat untuk mengaturnya secara demokratis. Mungkin di rezim otoriter,
pengaturan masih mungkin dilakukan, tetapi bagaimana Anda mengatur sesuatu secara demokratis jika
Anda tidak dapat melakukan percakapan tentang hal tersebut? Jika Anda tidak mengatur AI tepat waktu,
Anda tidak akan dapat lagi melakukan percakapan publik yang bermakna.

Jadi, untuk menyimpulkan, kita baru saja bertemu dengan kecerdasan alien, bukan di luar angkasa,
tetapi di Bumi. Kita tidak banyak tahu tentang kecerdasan alien ini, kecuali bahwa ia dapat
menghancurkan peradaban kita. Oleh karena itu, kita harus menghentikan penyebaran yang tidak
bertanggung jawab dari kecerdasan alien ini ke dalam masyarakat kita dan mengatur AI sebelum AI
mengatur kita. Regulasi pertama yang banyak diusulkan adalah membuat wajib bagi AI untuk
mengungkapkan bahwa ia adalah AI. Jika saya sedang berbicara dengan seseorang dan saya tidak dapat
mengatakan apakah itu manusia atau AI, itu berarti akhir dari demokrasi, karena itu adalah akhir dari
percakapan publik yang bermakna.

Nah, bagaimana pendapat Anda tentang apa yang baru saja Anda dengar selama 20 atau 25 menit
terakhir? Beberapa dari Anda mungkin terkejut, beberapa mungkin marah pada perusahaan yang
mengembangkan teknologi ini atau pemerintah yang gagal mengaturnya. Beberapa dari Anda mungkin
marah pada saya.

(31:30) berpikir bahwa saya berlebihan dalam menggambarkan ancaman atau mengenai waktu,
menyesatkan publik, tetapi apa pun yang Anda pikirkan, saya yakin kata-kata saya telah memberikan
dampak emosional pada Anda, bukan hanya dampak intelektual, tetapi juga dampak emosional. Saya
baru saja bercerita kepada Anda sebuah kisah, dan kisah ini kemungkinan akan mengubah pandangan
Anda tentang beberapa hal dan bahkan mungkin menyebabkan Anda mengambil tindakan tertentu di
dunia. Sekarang, siapa yang menciptakan kisah ini yang baru saja Anda dengar dan yang baru saja
mengubah pikiran dan otak Anda? Sekarang saya berjanji kepada Anda bahwa saya sendiri yang menulis
teks presentasi ini dengan bantuan beberapa orang lain, meskipun gambar-gambarnya dibuat dengan
bantuan AI. Saya berjanji kepada Anda bahwa setidaknya kata-kata yang Anda dengar adalah produk
budaya dari pikiran manusia atau beberapa pikiran manusia, tetapi bisakah Anda yakin sepenuhnya
bahwa hal ini benar? Setahun yang lalu, tidak ada di Bumi, setidaknya tidak di domain publik, kecuali
pikiran manusia yang dapat menghasilkan teks yang begitu canggih dan kuat seperti ini, tetapi sekarang
berbeda. Teoriya teks yang baru saja Anda dengar bisa saja dihasilkan oleh kecerdasan alien non-
manusia. Jadi, ambil waktu sejenak atau lebih untuk memikirkannya. Terima kasih. [Tepuk tangan]

(32:11) Itu adalah presentasi yang luar biasa. Saya ingin mencari tahu berapa banyak dari Anda yang
merasa takut. Itu adalah sejumlah besar orang pintar di sini yang merasa takut. Ada banyak pertanyaan
yang bisa diajukan, jadi saya akan mengambil beberapa dari audiens dan beberapa dari online. Ada
seorang pria di sini, editor perjalanan dari Frontiers dan keberlanjutan, presentasi yang luar biasa. Saya
suka bukumu. Saya mengikuti Anda dengan sangat erat. Jadi, satu pertanyaan dari banyak pertanyaan
adalah tentang regulasi AI. Saya sangat setuju dengan prinsipnya, tetapi sekarang pertanyaannya adalah
bagaimana. Jadi, saya pikir sangat sulit untuk membangun reaktor nuklir di ruang bawah tanah Anda,
tetapi Anda dapat melatih AI di ruang bawah tanah Anda dengan sangat mudah. Jadi, bagaimana kita
mengaturnya? Dan satu pertanyaan terkait dengan itu adalah bahwa seluruh Forum Frontiers dan forum
ini sebenarnya tentang ilmu terbuka dan informasi terbuka, data terbuka, dan sebagian besar AI yang
ada di luar sana dilatih menggunakan informasi yang tersedia secara publik, termasuk pola dan buku-
buku serta kitab suci, bukan? Jadi, mengatur AI tidak berarti kita harus mengatur dan membatasi
informasi ini dalam ruang terbatas yang bertentangan dengan inisiatif ilmu terbuka dan data terbuka
yang menurut kami juga sangat penting. Apakah "black box" itu adalah algoritma? Itu hanya algoritma,
bukan? Saya tahu selalu ada kompromi, dan intinya adalah memahami regulasi seperti apa yang kita
butuhkan. Pertama, kita membutuhkan waktu. Saat ini, alat AI yang sangat kuat ini masih belum
diproduksi oleh peretas individu di ruang bawah tanah mereka. Anda membutuhkan kekuatan komputasi
yang sangat besar dan Anda membutuhkan banyak uang, jadi hal ini dipimpin oleh beberapa perusahaan
besar dan pemerintah. Dan sekali lagi, sangat sulit untuk mengatur sesuatu pada tingkat global karena ini
adalah perlombaan senjata. Tetapi ada hal-hal yang negara-negara harus mengatur demi keuntungan
mereka sendiri.

(35:27) Misalnya, AI harus mengungkapkan bahwa itu adalah AI ketika berinteraksi dengan manusia,
bahkan jika beberapa rezim otoriter tidak ingin melakukannya, Uni Eropa, Amerika Serikat, atau negara
demokratis lainnya dapat menerapkan ini, dan ini sangat penting untuk melindungi masyarakat terbuka.
Sekarang ada banyak pertanyaan seputar sensor online, misalnya, kontroversi tentang apakah Twitter
atau Facebook memiliki kewenangan untuk mencegah mantan presiden Amerika Serikat untuk membuat
pernyataan publik, dan ini adalah masalah yang sangat rumit, tetapi ada isu yang sangat sederhana
dengan bot, manusia memiliki kebebasan berpendapat, bot tidak memiliki kebebasan berpendapat, itu
adalah hak asasi manusia, manusia yang memilikinya, bukan bot, jadi jika Anda menolak kebebasan
berpendapat bagi bot, saya pikir itu harus diterima oleh semua orang. Mari kita ambil pertanyaan lain.
Jika Anda bisa melewatkan mikrofon di sini, saya adalah seorang filsuf dan saya memiliki pertanyaan
menarik. Oh, saya pikir ini pertanyaan menarik. Nah, ada baiknya. Pertanyaannya untuk Anda berkaitan
dengan pilihan bahasa Anda yang berpindah dari buatan menjadi alien karena buatan mengindikasikan
bahwa masih ada kontrol manusia sedangkan alien menunjukkan yang asing tetapi juga menunjukkan,
setidaknya dalam imajinasi, bentuk kehidupan. Jadi, saya penasaran dengan makna yang ingin Anda
sampaikan dengan kata-kata tersebut.

(36:02) Tentu saja masih buatan dalam arti bahwa kita yang menghasilkannya, tetapi secara semakin
meningkat, AI ini semakin menghasilkan dirinya sendiri. Ia semakin belajar dan beradaptasi dengan
dirinya sendiri, jadi buatan adalah semacam pemikiran yang berharap bahwa itu masih di bawah kendali
kita, padahal sebenarnya semakin sulit untuk mengendalikannya. Dalam hal ini, AI menjadi kekuatan
asing, bukan selalu jahat, ia juga bisa melakukan banyak hal baik, tetapi yang pertama kita harus sadari
adalah itu asing. Kita tidak memahami bagaimana cara kerjanya, atau salah satu hal yang paling
mengejutkan tentang semua teknologi ini adalah ketika Anda berbicara dengan orang-orang yang
memimpinnya dan Anda bertanya kepada mereka tentang cara kerjanya, apa yang bisa dilakukannya,
mereka berkata, kami tidak tahu. Kami tahu bagaimana kami membangunnya pada awalnya, tetapi
kemudian ia belajar sendiri. Sekarang ada diskusi lengkap tentang apakah ini bentuk kehidupan atau
tidak. Saya pikir itu masih tidak memiliki kesadaran, dan saya tidak berpikir bahwa itu tidak mungkin
berkembang menjadi memiliki kesadaran, tetapi saya juga tidak berpikir bahwa itu perlu untuk
berkembang menjadi memiliki kesadaran. Itu adalah masalah yang kompleks, itu adalah pertanyaan
terbuka, tetapi kehidupan tidak selalu berarti kesadaran, kita memiliki banyak bentuk kehidupan,
mikroorganisme, tumbuhan, dan sebagainya.

(38:12) Jamur, yang kita anggap tidak memiliki kesadaran, masih kita anggap sebagai bentuk kehidupan,
dan saya pikir AI semakin mendekati posisi itu. Tentu saja, apa itu kehidupan adalah pertanyaan filosofis.
Kita menentukan batas-batasnya, seperti apakah virus adalah kehidupan atau tidak, kita menganggap
amoeba sebagai kehidupan tetapi virus berada di batas antara kehidupan dan bukan kehidupan. Itu
tergantung pada bahasa dan pilihan kata kita. Jadi, saya pikir yang lebih penting adalah memahami
dengan baik apa yang kita hadapi dan tidak menghibur diri dengan pemikiran berharap bahwa ini adalah
sesuatu yang kita ciptakan dan di bawah kendali kita, jika ia melakukan sesuatu yang salah, kita bisa
mematikannya. Tapi sekarang tidak ada yang tahu bagaimana mematikannya.

(38:47) Saya akan mengambil pertanyaan dari audiens online kita. Ini dari Michael Brown di Amerika
Serikat. Apa pendapat Anda tentang kemungkinan bahwa kecerdasan buatan umum sudah ada dan ia
atau mereka yang memiliki akses ke kecerdasan buatan umum sudah mempengaruhi sistem-sistem
sosial? Saya pikir itu sangat tidak mungkin. Kita tidak akan duduk di sini jika kecerdasan buatan umum
benar-benar ada. Ketika saya melihat dunia dan tahap kacauannya, kecerdasan buatan umum adalah
akhir dari sejarah manusia, dan itu sangat kuat. Ini bukan sesuatu yang bisa dikendalikan oleh siapa saja.
Jadi, ketika saya melihat keadaan kacau dunia ini, saya cukup yakin, dari perspektif sejarah, bahwa tidak
ada orang yang memiliki kecerdasan buatan umum di mana pun. Berapa lama waktu yang dibutuhkan
untuk mengembangkan kecerdasan buatan umum, saya tidak tahu. Tetapi untuk mengancam dasar-
dasar peradaban, kita tidak perlu kecerdasan buatan umum. Dan kembali ke media sosial, kecerdasan
buatan yang sangat primitif sudah cukup untuk menciptakan kekacauan sosial dan politik yang besar. Jika
saya memikirkannya dari perspektif evolusi, AI sekarang baru saja muncul seperti organisme pertama
yang muncul dari kaldu organik empat miliar tahun yang lalu. Berapa lama waktu yang dibutuhkan untuk
mencapai Tyrannosaurus Rex, berapa lama waktu yang dibutuhkan untuk mencapai Homo sapiens,
bukan empat miliar tahun, mungkin hanya 40 tahun. Ini adalah tentang evolusi digital, yang bergerak
dengan skala waktu yang sepenuhnya berbeda dari evolusi organik.
(40:32) Terima kasih, ini sangat luar biasa. Ini adalah hadiah yang luar biasa untuk memiliki Anda di sini,
dan saya yakin Anda akan tetap bersama kami untuk sementara waktu setelah ini. Tetapi seluruh
audiens, bergabunglah dengan saya untuk mengucapkan terima kasih. [Tepuk tangan]