PESAN BAPA SUCI PAUS FRANSISKUS

HARI KOMUNIKASI SOSIAL SEDUNIA

KE-58

KECERDASAN ARTIFISIAL DAN

KEBIJAKSANAAN HATI:

Menuju
Komunikasi
yang
Sungguh
Manusiawi
 1

PESAN PAUS FRANSISKUS PADA HARI

KOMUNIKASI SOSIAL SEDUNIA
KE-58
Kecerdasan Buatan dan Kebijaksanaan Hati:
Menuju Komunikasi yang Sungguh Manusiawi

Saudara- saudari terkasih!

Pengembangan sistem kecerdasan artifisial, yang baru-baru
ini saya refleksikan dalam Pesan untuk Hari Perdamaian
Dunia, (1 Januari 2024), memengaruhi dunia informasi dan
komunikasi secara radikal, termasuk landasan-landasan
kehidupan masyarakat. Perubahan ini memengaruhi semua
orang, bukan hanya para profesional di bidang tersebut.
Pesatnya penyebaran atas penemuan-penemuan
menakjubkan, yang fungsi dan potensinya tidak dapat
dipahami oleh sebagian besar dari kita entah untuk
memahami atau mengapresiasinya, terbukti menarik dan
membingungkan. Oleh karena itu, kita dihadapkan pada
pertanyaan yang lebih mendalam tentang hakikat manusia,
kekhasan kita, dan masa depan spesies Homo sapiens di
zaman kecerdasan artifisial. Bagaimana kita bisa tetap
menjadi manusia seutuhnya dan memandu transformasi
budaya demi kebaikan?

Mulai dari Hati

Pertama-tama, kita perlu kesampingkan dulu prediksi

bencana dan dampak buruknya yang mematikan. Seabad
lalu, Romano Guardini, ketika berefleksi tentang teknologi dan
kemanusiaan, mendesak kita untuk tidak menolak “kebaruan”
dalam upaya“melestarikan dunia indah yang terancam punah
ini.” Di saat yang sama, secara profetis dia memperingatkan
bahwa “kita terus-menerus berada dalam proses menjadi.
 PESAN BAPA SUCI PAUS FRANSISKUS
PADA HARI KOMUNIKASI SEDUNIA KE-58
2

Segala bentuk refleksi harus dimulai dari hati. Kalau tidak,

risikonya manusia bisa kaya di bidang teknologi, tetapi
miskin dalam kemanusiaan.
-Paus Fransiskus-
Kita harus terlibat dalam proses ini. Masing-masing dengan
caranya sendiri dan dengan keterbukaan. Namun, juga
dengan kepekaan terhadap segala sesuatu yang destruktif
dan tidak manusiawi di dalamnya”. Guardini menyimpulkan:
“Masalah-masalah ini bersifat teknis, ilmiah, dan politis;
Namun tidak dapat diselesaikan kecuali dengan mulai dari
rasa kemanusiaan kita. Makhluk manusia jenis baru harus
terbentuk, dikaruniai spiritualitas yang lebih dalam dan
kebebasan serta kesadaran baru”.[1]

Pada zaman sekarang ini, segala bentuk refleksi harus

dimulai dari hati. Kalau tidak, risikonya; manusia bisa kaya di
bidang teknologi, tetapi miskin dalam kemanusiaan.[2]
Dengan mengadopsi cara tertentu dalam memandang
realitas; dan memulihkan kebijaksanaan hati, kita dapat
menghadapi dan menafsirkan kebaruan zaman serta
menemukan kembali jalan menuju komunikasi yang sungguh
manusiawi. Dalam Alkitab, hati dipandang sebagai tempat
kebebasan dan pengambilan keputusan. Hati melambangkan
integritas dan persatuan, tetapi juga keterlibatan emosi,
keinginan, mimpi kita.
 PESAN BAPA SUCI PAUS FRANSISKUS
PADA HARI KOMUNIKASI SEDUNIA KE-58
3

Dan di atas segalanya, hati adalah tempat terdalam

perjumpaan kita dengan Tuhan. Dengan demikian,
kebijaksanaan hati merupakan kebajikan yang
memungkinkan kita mengintegrasikan keseluruhan serta
bagian-bagiannya, keputusan-keputusan dan konsekuensi-
konsekuensinya, kemuliaan dan kerentanan, masa lalu dan
masa depan, individualitas dan keanggotaan kita dalam satu
komunitas yang lebih besar.

Kebijaksanaan hati ini membiarkan dirinya ditemukan oleh

mereka yang mencarinya dan dilihat oleh mereka yang
mencintainya. Kebijaksanaan hati mengantisipasi mereka
yang menginginkannya dan mencari mereka yang pantas
mendapatkannya (lih. Keb. 6:12-16). Ia menemani mereka
yang mau menerima nasihat (lih. Ams. 13:10), mereka yang
diberkahi dengan ketaatan dan hati yang mendengarkan (lih.
1 Raj. 3:9). Karunia Roh Kuduslah yang memampukan kita
melihat segala sesuatu dengan cara pandang Tuhan.

Di atas segalanya, hati adalah tempat terdalam perjumpaan

kita dengan Tuhan
-Paus Fransiskus-

Juga memampukan kita dalam melihat hubungan, situasi,

peristiwa-peristiwa, dan mengungkapkan makna sebenarnya.
Tanpa kebijaksanaan ini, hidup menjadi hambar.
Kebijaksanaan [Lat. sapientia] – yang akar kata Latinnya
adalah sapere, yang terkait dengan kata benda sapor–
mempunyai arti memberi “kenikmatan” bagi kehidupan.
 PESAN BAPA SUCI PAUS FRANSISKUS
PADA HARI KOMUNIKASI SEDUNIA KE-58 4

Peluang dan Bahaya

Kebijaksanaan seperti itu tidak bisa diperoleh dari mesin.

Meskipun istilah “kecerdasan artifisial” lebih tepat
menggantikan “pembelajaran mesin” (machine learning)
yang digunakan dalam literatur ilmiah, penggunaan kata
“inteligensi” terbukti bisa menyesatkan. Tidak diragukan lagi,
mesin memiliki kapasitas yang jauh lebih besar dari manusia
dalam menyimpan dan menghubungkan data, tetapi hanya
manusia yang mampu memahaminya. Ini bukan sekadar
masalah membuat mesin tampak lebih manusiawi, tetapi
membangunkan umat manusia dari tidur akibat ilusi
kemahakuasaan. Juga membangunkan keyakinan bahwa kita
adalah subjek yang sepenuhnya otonom dan mengacu pada
diri sendiri, terlepas dari semua ikatan sosial dan lupa akan
status sebagai makhluk.
Manusia selalu menyadari
dirinya tidak cukup,
karena itu berusaha
mengatasi
kerentanannya dengan
menggunakan segala
cara. Dari artefak masa
prasejarah paling awal,
kita tahu bahwa manusia
telah menggunakan
Mesin memiliki kapasitas yang
banyak alat untuk
jauh lebih besar dari manusia
membantu tangannya.
dalam menyimpan dan
Lalu muncullah media
menghubungkan data, tetapi hanya yang digunakan untuk
manusia yang dapat memahaminya. memperluas penyebaran
-Paus Fransiskus- kata-kata.

Lalu muncullah media yang digunakan untuk

memperluas penyebaran kata-kata. Dan sekarang, kita
mampu menciptakan mesin-mesin rumit yang bertindak
sebagai pendukung bagi pikiran manusia.
Bagaimanapun, masing-masing instrumen ini dapat
disalahgunakan.
 PESAN BAPA SUCI PAUS FRANSISKUS
PADA HARI KOMUNIKASI SEDUNIA KE-58
4

Kita bisa terjerumus dalam godaan primordial, menjadi

serupa dengan Tuhan dan tanpa Tuhan (lih. Kej. 3). Sebuah
keinginan untuk menggapai semua hal dengan upaya kita
sendiri padahal Tuhan telah memberi kita secara gratis
sehingga kita bisa menikmatinya bersama orang lain.

Segala sesuatu yang ada dalam jangkauan kita dapat

menjadi peluang atau ancaman, tergantung kecenderungan
hati kita. Tubuh kita misalnya, diciptakan untuk berkomunikasi
dan bersekutu. Namun, bisa kita pakai sebagai alat untuk
menyerang yang lain. Demikian juga, teknologi yang
dikembangkan untuk membantu manusia dapat menjadi
sarana untuk melayani dengan kasih atau alat untuk
memusuhi yang lain. Oleh karena itu, sistem kecerdasan
artifisial dapat membantu mengatasi ketidaktahuan dan
memfasilitasi pertukaran informasi antarmanusia dari
berbagai bangsa dan generasi.

Ambil contoh misalnya, kecerdasan artifisial membantu kita

mengerti dan mengakses ilmu pengetahuan warisan masa
lampau. Dengan kecerdasan itu juga, kita dapat
berkomunikasi dengan orang lain yang menggunakan bahasa
yang berbeda. Namun, di saat yang sama, hal-hal tersebut
dapat menjadi sumber “polusi pikiran”, karena disebarkan
secara tidak utuh atau dengan narasi yang salah. Parahnya,
informasi itu disebar dan diyakini seolah-seolah sebagai
sebuah kebenaran. Kita perlu memikirkan persoalan
disinformasi ini, yang bakal muncul terus dalam bentuk berita
palsu,[3] dan yang sekarang mewujud dengan istilah
deepfake. Deepfake merupakan bentuk manipulasi foto, yang
tampaknya sempurna tetapi salah (saya juga menjadi objek
dari deepfake ini). Atau manipulasi audio yang sebenarnya
tidak pernah dikatakan oleh seseorang. Teknologi simulasi
yang berada di belakang semua program ini sebenarnya
bermanfaat dalam bidang-bidang tertentu dalam hidup kita.
Namun, ini bisa menjadi persoalan kalau sudah mendistorsi
hubungan kita dengan orang lain dan kenyataan hidup yang
kita alami.
 PESAN BAPA SUCI PAUS FRANSISKUS
PADA HARI KOMUNIKASI SEDUNIA KE-58
5

…algoritma tidaklah netral, untuk itu perlu tindakan

pencegahan, yakni dengan membuat pedoman-pedoman untuk
bertindak.
-Paus Fransiskus-

Dimulai dengan gelombang pertama kemunculan kecerdasan

artifisial, berupa media sosial; kita telah merasakan
ambivalensinya, baik dari sisi kemungkinan
pengembangannya, maupun risiko dan persoalan yang
dimunculkannya. Tahap kedua pengembangan kecerdasan
artifisial generatif, pasti membawa kita pada satu lompatan
kualitatif. Oleh karena itu, penting memahami, mengapresiasi,
dan mengatur instrumen-instrumen, yang jika berada di
tangan yang salah dapat membawa pada skenario yang
tidak kita inginkan. Seperti juga hasil kecerdasan dan
keterampilan manusia yang lain, algoritma tidaklah netral.
Untuk itu, perlu tindakan pencegahan, yakni dengan membuat
pedoman-pedoman dalam bertindak (kode etik). Kode etik ini
berguna untuk mencegah dampak buruk penggunaan sistem
kecerdasan artifisial, yang bisa jadi menyebabkan
ketidakadilan dan diskriminasi sosial. Juga mencegah upaya
mereduksi pluralisme dan polarisasi opini publik atau
penciptaan pikiran-pikiran sektarian/primordial. Sekali lagi,
saya mengimbau komunitas internasional “untuk bekerja
sama mengadopsi perjanjian internasional yang telah
mengatur pengembangan dan penggunaan kecerdasan
artifisial dalam berbagai bentuk”. [4] Di saat yang sama,
dalam berbagai konteks, regulasi saja memang tidak cukup.
 PESAN BAPA SUCI PAUS FRANSISKUS
PADA HARI KOMUNIKASI SEDUNIA KE-58
6

Bertumbuh dalam Kemanusiaan

Kita semua dipanggil untuk tumbuh bersama, dalam

kemanusiaan dan sebagai manusia. Kita ditantang untuk
membuat lompatan kualitatif menuju arah yang kompleks,
multietnik, pluralistik, multireligius dan masyarakat yang
multikultural. Kita dipanggil untuk merenungkan secara hati-
hati pengembangan teoretis dan penggunaan instrumen-
instrumen komunikasi dan ilmu pengetahuan baru ini. Dan
tentu saja, manfaat penggunaan instrumen ini bakal disertai
risiko yang mengubah segalanya menjadi hitungan abstrak
yang mereduksi individu menjadi data, pemikiran menjadi
satu proses mekanis, pengalaman menjadi sebuah cerita
individual, kebaikan menjadi profit, dan di atas semua itu
adalah penyangkalan pada keunikan masing-masing individu
dengan berbagai kisahnya. Realitas konkret larut lenyap
sebagai sekadar data statistik.
Revolusi digital akan memberi
kita kebebasan yang lebih
besar asal kita tidak terpenjara
dalam sebuah kondisi yang
saat ini disebut ruang gema
(echo chambers). Situasi
seperti ini, bukannya
meningkatkan pluralisme
informasi, malah berisiko
menjerumuskan kita pada
kebingungan. Kita bisa menjadi
mangsa kepentingan dan Kita semua dipanggil untuk
kekuasaan pasar. Oleh karena tumbuh Bersama, dalam
itu, kita tidak dapat menerima kemanusiaan dan sebagai
bila penggunaan kecerdasaan manusia.
-Paus Fransiskus-
artifisial membuat kita mudah
berpikir prematur, mudah mengumpulkan data tanpa verifikasi,
dan gagal menjalankan tugas editorial kolektif. mudah
mengumpulkan data tanpa verifikasi, dan gagal menjalankan
tugas editorial kolektif. Representasi realitas dalam sebuah
“data besar” (big data), betapapun bergunanya bagi
pengoperasian mesin-mesin, pada akhirnya menyebabkan
 PESAN BAPA SUCI PAUS FRANSISKUS
PADA HARI KOMUNIKASI SEDUNIA KE-58
7

hilangnya satu hal substansial dari kebenaran benda-benda

yang kemudian menghambat komunikasi antarpribadi dan
mengancam kemanusiaan kita. Dengan demikian, informasi
tidak dapat dipisahkan dari berbagai relasi kehidupan. Ini
karena informasi melibatkan tubuh dan keterlibatan di dunia
nyata. Informasi selalu terkait tidak hanya dengan data,
tetapi juga dengan pengalaman manusia. Oleh karena itu,
butuh kepekaan pada wajah dan ekspresi-ekspresinya, yang
berupa kasih sayang dan sikap saling berbagi.

Sampai di sini, saya kemudian merenung tentang berbagai

pemberitaan seputar perang dan “perang paralel” yang
dilancarkan dengan cara menyebarkan informasi yang salah.
Saya juga memikirkan para reporter yang terluka atau
terbunuh saat menjalankan tugas; mereka, yang
memungkinkan kita melihat apa yang mereka saksikan. Sebab
hanya kontak langsung dengan penderitaan anak-anak,
perempuan dan laki-laki, membuat kita makin memahami
absurditas perang.

Infomasi tidak dapat dipisahkan dari berbagai relasi kehidupan…

terkait tidak hanya dengan data, tetapi juga dengan pengalaman
manusia.=
-Paus Fransiskus-
 PESAN BAPA SUCI PAUS FRANSISKUS
PADA HARI KOMUNIKASI SEDUNIA KE-58
8

Pemanfaatan kecerdasan artifisial dapat memberi kontribusi

positif pada sektor komunikasi asalkan peran Jurnalisme di
lapangan sungguh didukung, bukannya dilenyapkan.
Sumbangan positif itu juga bisa berupa penghargaan pada
profesionalisme komunikasi, yang membuat setiap
komunikator semakin sadar akan tanggung jawabnya. Dan
tentu saja yang memungkinkan semua orang berada
sebagaimana mestinya, mencerdaskan para partisipan
dalam karya-karya komunikasi.

Infomasi tidak dapat dipisahkan dari berbagai relasi kehidupan…

terkait tidak hanya dengan data, tetapi juga dengan pengalaman
manusia. -Paus Fransiskus-

Pertanyaan untuk Sekarang dan Masa Depan

Terkait dengan semua hal yang sudah disampaikan, sejumlah

pertanyaan muncul secara alamiah. Bagaimana kita menjaga
profesionalisme dan martabat para pekerja di bidang
informasi dan komunikasi serta martabat para penggunanya
di seluruh dunia? Bagaimana kita memastikan
interoperabilitas platform-platform yang ada? Bagaimana
1

kita memberdayakan bisnis yang mengembangkan platform

digital sebagai tanggung jawab mereka dalam kaitannya
dengan konten dan iklan sebagaimana dilakukan para editor
di media tradisional?
1 Interoperabilitas adalah kemampuan dua atau lebih sistem/platform untuk
bertukar data/informasi dan menggunakannya.
 PESAN BAPA SUCI PAUS FRANSISKUS
PADA HARI KOMUNIKASI SEDUNIA KE-58
8

Bagaimana kita membuat makin transparan kriteria yang

memandu operasi-operasi algoritma dalam proses indeks
(indexing) dan penghapusan indeks (de-indexing),2 serta
untuk mesin pencari yang mampu membesarkan atau
membatalkan individu-individu dan opini-opini, sejarah dan
budaya? Bagaimana kita menjamin transparansi pemrosesan
informasi? Bagaimana kita mengidentifikasi sumber tulisan
dan menelusuri sumber-sumber yang tersembunyi di balik
konten anonim? Bagaimana kita bisa paham dan yakin bahwa
sebuah foto atau video benar-benar hasil jepretan di
lapangan atau hasil simulasi? Bagaimana kita mencegah
sumber-sumber itu dari upaya reduksi menjadi satu bagian
dan mendorong sebuah pendekatan yang dikembangkan atas
basis algoritma? Bagaimana kita mempromosikan lingkungan
yang cocok dalam pemeliharaan pluralisme dan memotret
kompleksitas realitas? Bagaimana kita dapat melestarikan
sebuah teknologi yang kuat, mahal dan butuh energi besar?
Dan bagaimana kita membuat semua itu bisa diakses oleh
masyarakat di negara-negara berkembang?

Jawaban-jawaban yang kami berikan atas pertanyaan-

pertanyaan ini dan pertanyaan lainnya akan menentukan
apakah kecerdasan artifisial akan menciptakan kasta baru
akibat perbedaan akses pada informasi ini. Dan dengan
demikian, memunculkan bentuk-bentuk eksploitasi dan
kesenjangan baru. Atau, apakah ini akan membuat kita makin
setara dengan tersebarnya informasi yang benar dan
membawa pada kesadaran yang lebih tinggi atas perubahan
yang sedang kita alami? Ini karena kecerdasan artifisial
memungkinkan kita memahami banyak kebutuhan dari para
individu dan manusia dalam satu jaringan informasi yang
pluralistik dan terstruktur dengan baik. Sehingga, di satu sisi,
bila kita lihat sekilas, tampak sebuah bentuk perbudakan
baru. Namun, di sisi lain, kita juga bisa melihat sebuah sistem
yang bisa makin membebaskan kita, entah yang dipilih itu
hanya sedikit dan dapat mengondisikan pikiran orang lain
atau semua orang dapat berpartisipasi dalam perkembangan
pikiran itu.

2 Tindakan untuk menghapus situs web atau bagian situs web dari indeks.
 PESAN BAPA SUCI PAUS FRANSISKUS
PADA HARI KOMUNIKASI SEDUNIA KE-58
9

Jawaban yang kami berikan atas pertanyaan-pertanyaan ini

tentu saja tidak bisa ditentukan sebelumnya. Semua terserah
kita apakah mau menjadi makanan algoritma atau kita akan
mengembangkan hati dengan kebebasan yang tanpa
kebebasan itu kita tidak dapat tumbuh dalam kebijaksanaan.
Kebijaksanaan seperti itu menjadi matang dengan
memanfaatkan waktu secara bijaksana dan dengan memeluk
kerapuhan-kerapuhan kita. Semua itu tumbuh dalam
perjanjian yang terjadi antargenerasi, di antara mereka yang
mengingat masa lalu dan yang menatap masa depan. Hanya
dengan bersama-sama kita bisa meningkatkan kapasitas
dalam membuat keputusan (dicernment) dan bersikap
mawas diri serta melihat segala sesuatu dalam terang
pemenuhannya. Jangan sampai kemanusiaan kita hilang
arah. Marilah mencari kebijaksanaan yang ada sebelum
segala sesuatu (lih. Sir. 1: 4): Ini akan membantu kita dalam
penggunaan sistem-sistem kecerdasan artifisial demi
terwujudnya komunikasi yang sungguh manusiawi.

Roma, Santo Yohanes Lateran, 24 Januari 2024

FRANSISKUS

[1] Surat dari Danau Como.

[2] Pesan Hari Komunikasi Sosial Sedunia tahun 2024 mengambil
pesan-pesan sebelumnya yang ditujukan untuk bertemu dengan
orang-orang di mana dan bagaimana mereka berada (2021),
mendengar dengan telinga hati (2022), dan berbicara dengan hati
(2023) .
[3] Lih. “Kebenaran Akan Memerdekakan Kamu” (Yoh. 8: 32). Berita
Palsu dan Jurnalisme untuk Perdamaian, Pesan Hari Komunikasi
Sosial Sedunia 2018.
[4] Pesan Hari Perdamaian Sedunia ke-57, 1 Januari 2024, 8.

Copyright © Dicastero per la Comunicazione - Libreria Editrice

Vaticana