Domingo Durasi: 35 menit [00:00:00.282] - Sam Charrington Baiklah semuanya. Saya berbicara dengan Abeba Berhane. Abeba adalah Ph.D. mahasiswa di University College Dublin. Abeba, selamat datang di podcast AI TWIML.
[00:00:12.552] - Abeba Berhane
Terima kasih banyak telah menerimaku, Sam.
[00:00:15.522] - Sam Charrington
Saya sangat senang dengan percakapan ini. Kami memiliki kesempatan untuk bertemu langsung setelah lama berinteraksi di Twitter pada konferensi NeurIPs terbaru, khususnya Black in AI Workshop, di mana Anda tidak hanya mempresentasikan makalah Anda Ketidakadilan Algoritma Menuju Etika Relasional, tetapi Anda memenangkan makalah terbaik di sana. Jadi saya menantikan untuk menggali itu dan beberapa topik lainnya. Namun sebelum kita melakukan itu, saya ingin mendengar Anda berbagi sedikit tentang latar belakang Anda. Dan saya akan menyebutkan untuk orang-orang yang mendengar sirene di latar belakang, sementara saya menyebutkan bahwa Anda berasal dari University College Dublin, Anda kebetulan berada di New York sekarang di AIES Conference bekerja sama dengan AAAI. Dan seperti yang diketahui orang, sulit untuk menghindari sirene dan konstruksi di New York City. Jadi pertimbangkan saja latar belakang itu. Suasana hati, suasana hati, suasana, suara latar kami jadi, latar belakang Anda.
[00:01:24.982] - Abeba Berhane
Ya ya.
[00:01:25.942] - Sam Charrington
Bagaimana Anda mulai bekerja di Etika AI?
[00:01:28.482] - Abeba Berhane
Jadi latar belakang saya adalah ilmu kognitif dan khususnya dan bagian dari ilmu kognitif yang disebut Ilmu Kognitif Terwujud, yang berakar, Anda tahu, dalam sibernetika, dalam pemikiran sistem. Idenya adalah untuk fokus pada pada sosial dan budaya, pada sejarah dan jenis untuk melihat kognisi dalam kesinambungan dengan dunia, dengan latar belakang sejarah dan semua itu dan berlawanan dengan, Anda tahu, pendekatan tradisional Anda untuk kognisi, yang hanya menciptakan kognisi sebagai sesuatu yang terletak di otak atau sesuatu yang dapat diformalkan, sesuatu yang dapat dihitung. Jadi iya. Jadi itulah latar belakang saya. Bahkan selama master saya, saya. Saya condong ke sisi AI dari ilmu kognitif. Semakin saya mendalami, semakin saya tertarik ke sisi etika, ke, Anda tahu, ketidakadilan, ke masalah sosial. Dan semakin Ph.D. Terus, semakin saya menemukan diri saya di sisi etika.
[00:02:49.942] - Sam Charrington
Apakah ada poin tertentu yang Anda sadari bahwa Anda sangat tertarik dengan bagian etika secara khusus, atau apakah itu hanya berkembang untuk Anda?
[00:02:59.212] - Abeba Berhane
Transkripsi mentah oleh Brigette L. Domingo Durasi: 35 menit Saya pikir itu hanya berkembang. Jadi ketika saya mulai, saya di akhir S2 saya dan di awal Ph.D., ide saya adalah, Anda tahu, kita memiliki cara berpikir sekolah baru yang relatif baru, yaitu Embodied CogSci, yang saya sangat mirip karena itu menekankan, Anda tahu, ambiguitas dalam kekacauan dan kontinjensi sebagai lawan dari, Anda tahu, menggambar batasan yang bersih. Jadi idenya adalah, ya, saya menyukai ide untuk mendefinisikan kembali kognisi sebagai sesuatu yang relasional, sesuatu yang bersifat sosial, dan sesuatu yang terus dipengaruhi, dipengaruhi oleh orang lain dan teknologi yang kita gunakan. Jadi aspek teknologi, ujung teknologi adalah minat saya. Jadi awalnya, idenya adalah, ya, teknologi itu merupakan aspek dari aspek kognisi kita. Anda memiliki tesis tahun 1998 yang terkenal oleh Andy Clark dan Dave Chalmers, pemikiran yang diperluas di mana mereka mengklaim, Anda tahu, iPhone adalah perpanjangan dari pikiran Anda. Jadi Anda bisa memikirkannya seperti itu. Dan saya agak memajukan garis pemikiran yang sama. Tapi semakin saya mempelajarinya, semakin saya melihat ya, teknologi digital, apakah itu, Anda tahu, komputasi di mana-mana, seperti sistem pengenalan wajah di jalan atau ponsel Anda, apa pun. Ya. Itu berdampak dan terus membentuk dan membentuk kembali kognisi kita tentang apa artinya hidup di dunia. Tetapi yang menjadi semakin jelas bagi saya adalah bahwa tidak semua orang terkena dampak yang sama. Dan semakin Anda diistimewakan, semakin Anda memegang kendali atas apa yang dapat memengaruhi Anda dan apa yang dapat Anda hindari. Jadi di situlah saya semakin terlibat dengan etika perhitungan dan dampaknya pada kognisi.
[00:05:23.422] - Sam Charrington
Gagasan keistimewaan adalah sesuatu yang mengalir di seluruh karya yang Anda presentasikan di Black in AI, makalah Algorithmic Injustices, dan gagasan ini, konstruksi etika relasional ini. Apa itu etika relasional dan apa yang Anda maksud dengan itu?
[00:05:45.202] - Abeba Berhane
Ya, jadi etika relasional sebenarnya bukan hal baru. Banyak orang telah berteori tentang hal itu dan telah menulis tentang hal itu. Tapi cara saya mendekatinya adalah cara saya menggunakannya dan saya kira itu muncul dari dan rasa frustrasi ini yang bagi banyak orang yang berbicara tentang etika atau keadilan atau keadilan, sebagian besar bermuara pada, Anda tahu, membangun formulasi keadilan yang rapi ini atau perhitungan matematis tentang siapa yang harus dimasukkan dan siapa yang harus dikeluarkan. Jenis data apa yang kita butuhkan, hal-hal semacam itu. Jadi bagi saya, etika relasional adalah mari kita tinggalkan itu sebentar dan mari kita perkecil dan lihat gambaran yang lebih besar. Dan bukannya menggunakan teknologi untuk memecahkan masalah yang muncul dari teknologi itu sendiri. Jadi yang berarti menyensor teknologi, mari kita pusatkan orang-orang yang adalah orang-orang, terutama orang-orang yang terkena dampak secara tidak proporsional, lho, keterbatasan atau masalah yang muncul dengan perkembangan dan implementasi teknologi. Jadi ada penelitian yang kuat di mana Anda dapat mengukur keadilan atau ketidakadilan algoritmik. Dan polanya adalah semakin Anda berada di bagian bawah tingkat persimpangan, itu berarti semakin jauh Anda dari domain gender CIS putih stereotip Anda dan semakin besar dampak negatifnya pada Anda, baik itu klasifikasi atau kategorisasi atau apakah itu sedang dipindai dan diminta dan dengan mempekerjakan algoritme. Atau mencari perumahan atau semacamnya. Semakin Anda menjauh dari kategori stereotip itu, Anda tahu, status quo, semakin berat pengaruhnya Transkripsi mentah oleh Brigette L. Domingo Durasi: 35 menit terhadap Anda. Jadi ide relasionalitas adalah berpikir dari perspektif itu untuk mengambilnya sebagai titik awal. Jadi ini adalah kelompok atau ini adalah.