Sam Charrington: Baiklah, semuanya, saya berbicara dengan Abeba Birhane.

Abeba Birhane adalah

Ph.D. mahasiswa di University College Dublin. Abeba Birhane selamat datang di podcast AI TWIML.

Abeba Birhane: Terima kasih banyak sudah menerima saya, Sam.

Sam Charrington: Saya sangat senang dengan percakapan ini, kami memiliki kesempatan untuk
bertemu langsung, setelah lama berinteraksi di Twitter pada konferensi bau terbaru, khususnya,
lokakarya hitam dan AI, di mana Anda tidak hanya mempresentasikan makalah Anda, ketidakadilan
algoritmik terhadap etika relasional, tetapi Anda memenangkan Makalah Terbaik di sana. Jadi saya
menantikan untuk menggali itu dan beberapa topik lainnya. Tetapi sebelum kita melakukan itu, saya
ingin mendengar Anda berbagi sedikit tentang latar belakang Anda dan saya akan menyebutkan untuk
orang-orang yang mendengar sirene di latar belakang, sementara saya menyebutkan bahwa Anda
berasal dari University College, Dublin, kebetulan berada di New York sekarang, di konferensi AIES
terkait dengan triple AI dan seperti yang mungkin diketahui orang, sulit untuk menghindari sirene dan
konstruksi di New York City. Jadi, anggap saja latar belakang itu suasana hati kita, suasana suasana
hati, suara latar belakang. Jadi, latar belakang Anda

Abeba Birhane: Ya, ya.

Sam Charrington: bagaimana Anda mulai bekerja dalam etika AI?

Abeba Birhane: Jadi, latar belakang saya adalah ilmu kognitif dan khususnya bagian dari ilmu kognitif
yang disebut ilmu kognitif yang terkandung, yang berakar pada Anda tahu, dalam sibernetika dalam
pemikiran sistem, idenya adalah untuk fokus pada sosial pada budaya pada historis dan jenis kognisi
yang parah, dalam kesinambungan dengan dunia dengan latar belakang sejarah dan semua yang
berlawanan dengan yang Anda ketahui, pendekatan kognisi tradisional Anda, yang hanya membaca
kognisi sebagai sesuatu yang terletak di otak atau sesuatu yang dapat diformalkan atau sesuatu yang
dapat dihitung. Jadi, namun, jadi, itulah latar belakang saya, bahkan selama master saya, saya
condong ke, Anda tahu, sisi AI dari ilmu kognitif, semakin saya mempelajarinya, semakin saya tertarik
pada sisi etika juga, Anda tahu, ketidakadilan terhadap masalah sosial dan karenanya, semakin Ph.D.
terus, semakin saya menemukan diri saya di sisi etika,

Sam Charrington: Apakah ada poin tertentu yang Anda sadari bahwa Anda sangat tertarik dengan
bagian etika secara khusus, atau apakah itu hanya berkembang untuk Anda?

Abeba Birhane: pikir itu baru saja berevolusi. Jadi, ketika saya mulai, saya memperoleh gelar master
saya dan pada awal Ph.D., ide saya adalah, Anda tahu, kami memiliki cara berpikir sekolah baru yang
relatif baru yang merupakan perwujudan kuasi yang sangat saya sukai karena itu menekankan, Anda
tahu, ambiguitas dan kekacauan, dan kemungkinan, berlawanan dengan yang Anda tahu,
menggambar batasan yang bersih. Jadi, idenya adalah ya, saya menyukai ide untuk mendefinisikan
kembali kognisi, sebagai sesuatu yang relasional, sesuatu yang bersifat sosial, dan sesuatu yang terus
dipengaruhi dan dipengaruhi oleh orang lain dan teknologi yang kita gunakan. Jadi aspek teknis
adalah minat saya. Jadi, awalnya, idenya adalah, ya, teknologi merupakan aspek kognisi kita. Anda
memiliki tesis tahun 1998 yang terkenal oleh Andy Clark dan David Chalmers, mereka memperluas
pikiran di mana mereka mengklaim, Anda tahu, iPhone adalah perpanjangan dari pikiran Anda. Jadi
Anda bisa memikirkannya seperti itu. Dan saya agak memajukan garis pemikiran yang sama. Tapi
semakin saya mendalaminya, semakin saya melihat teknologi digital, apakah itu, Anda tahu,
komputasi di mana-mana, seperti sistem pengenalan wajah di jalanan, atau ponsel Anda, apa pun
yang dimilikinya, itu berdampak pada debu yang terus menerus membentuk dan membentuk kembali
kognisi kita dalam apa artinya ada di dunia. Tetapi yang menjadi semakin jelas bagi saya adalah bahwa
tidak semua orang terkena dampak yang sama. Semakin Anda diistimewakan, semakin Anda
memegang kendali atas apa yang dapat memengaruhi Anda dan apa yang dapat Anda hindari. Jadi di
situlah saya semakin terlibat dengan etika perhitungan dan dampaknya pada kognisi.
Sam Charrington: Gagasan hak istimewa adalah sesuatu yang mengalir di seluruh karya yang Anda
presentasikan di Black dan AI, ketidakadilan algoritmik adalah kertas dan gagasan ini, konstruksi etika
relasional ini, apa itu etika relasional? Dan apa yang Anda dapatkan dengan itu?

Abeba Birhane: Ya, jadi etika relasional sebenarnya bukan hal baru. Banyak orang telah berteori
tentangnya dan telah menulis tentangnya, tetapi cara saya mendekatinya, cara saya
menggunakannya, saya kira, itu muncul dari rasa frustrasi yang bagi banyak orang yang berbicara
tentang AI etika, atau keadilan atau keadilan, sebagian besar bermuara pada, Anda tahu, membangun
ini membutuhkan perumusan keadilan atau perhitungan matematis tentang siapa yang harus
disertakan, dan siapa yang harus dikecualikan, data seperti apa yang kita butuhkan hal semacam itu.
Jadi, bagi saya, etika relasional adalah mari kita tinggalkan itu sebentar. Dan mari perkecil dan lihat
gambar yang lebih besar. Dan alih-alih menggunakan teknologi untuk menyelesaikan masalah yang
muncul dari teknologi itu sendiri, yang berarti teknologi sensorik, mari kita pusatkan, pada orang-
orang, terutama orang-orang yang terkena dampak secara tidak proporsional, Anda tahu,
keterbatasan atau masalah yang muncul dengan pengembangan dan penerapan teknologi. Jadi, ada
penelitian kuat yang bisa Anda sebut keadilan AI atau ketidakadilan algoritmik. Dan polanya adalah
semakin Anda berada di bagian bawah tingkat persimpangan, itu berarti semakin jauh dari Anda atau
dari, Anda tahu, laki-laki berjenis kelamin kulit putih stereotip Anda. Semakin besar dampak
negatifnya pada Anda, apakah itu klasifikasi atau kategorisasi atau apakah itu diskalakan dan dinilai
dengan menyewa algoritme atau mencari perumahan atau semacamnya. Semakin Anda menjauh dari
kategori stereotip itu, Anda tahu, status quo, semakin berat dampaknya terhadap kaum muda. Jadi
gagasan relasionalitas adalah berpikir dari perspektif itu untuk mengambilnya sebagai titik awal. Jadi
ini adalah kelompok atau ini adalah