Examining Responsibility and Deliberation in AI Impact Statements and Ethics Reviews

Jurnal ini membahas tentang pentingnya mengidentifikasi dan memitigasi

dampak sosial negatif dari teknologi kecerdasan buatan (AI). Studi dilakukan terhadap
pernyataan dampak sosial dan tinjauan etika pada makalah yang disajikan di konferensi
NeurIPS 2021. Hasil studi menunjukkan bahwa penulis sering kali mengungkapkan
kurangnya keterlibatan dalam mengidentifikasi atau memitigasi dampak sosial negatif,
menyangkal tanggung jawab atas dampak negatif, dan menyerahkan tanggung jawab
kepada praktisi, subbidang, atau pekerjaan di masa depan. Tinjauan etika lebih fokus
pada pelanggaran kebijakan dan masalah non-kebijakan yang memerlukan
pertimbangan etis. Penulis jurnal menyarankan agar NeurIPS memberikan pedoman
yang lebih jelas bagi penulis dan tinjauan etika untuk mengatasi dampak sosial negatif.
Studi ini menganalisis tinjauan etika makalah yang diajukan ke konferensi NeurIPS dari
tahun 2018 hingga 2020. Analisis menunjukkan bahwa masalah etis yang diangkat dalam
tinjauan terbagi menjadi dua kategori: masalah kebijakan dan masalah non-kebijakan.
Tinjauan etika sering merekomendasikan penambahan konten pada makalah untuk
mengatasi masalah etis, dan penulis umumnya terbuka untuk mengadopsi saran dari
tinjauan etika. Jurnal tersebut menekankan pentingnya memperhatikan dampak sosial
dari teknologi AI dan memberikan rekomendasi untuk mengatasi masalah etis dalam
pengembangan teknologi AI.

Bab 1 introduction dari jurnal ini membahas tentang pentingnya mengidentifikasi

dan memitigasi dampak sosial negatif dari teknologi kecerdasan buatan (AI). Konferensi
NeurIPS 2021 meminta para penulis untuk menyertakan pernyataan dampak sosial dan
tinjauan etika pada makalah yang disajikan. Namun, masih terdapat kekurangan dalam
mengidentifikasi dan memitigasi dampak sosial negatif, serta kurangnya keterlibatan
dalam mengambil tanggung jawab atas dampak negatif. Oleh karena itu, penulis jurnal
melakukan studi terhadap pernyataan dampak sosial dan tinjauan etika pada makalah
yang disajikan di konferensi NeurIPS 2021. Studi ini bertujuan untuk memberikan
rekomendasi bagi NeurIPS dan komunitas peneliti AI untuk mengatasi masalah etis
dalam pengembangan teknologi AI. Studi ini menganalisis tinjauan etika makalah yang
diajukan ke konferensi NeurIPS dari tahun 2018 hingga 2020. Studi ini juga menyertakan
daftar referensi terkait konferensi NeurIPS, termasuk makalah, lokakarya, dan pedoman
tentang akuntabilitas dalam pembelajaran mesin, AI untuk kebaikan sosial, dan norma-
norma publikasi yang bertanggung jawab.

Bab 2 data and methods dari jurnal ini menjelaskan tentang metode yang
digunakan dalam studi ini. Studi ini menganalisis pernyataan dampak sosial dan tinjauan
etika pada makalah yang disajikan di konferensi NeurIPS dari tahun 2018 hingga 2020.
Data diperoleh dari platform OpenReview yang digunakan oleh NeurIPS untuk review
makalah. Studi ini menggunakan pendekatan kualitatif dengan melakukan coding
terhadap pernyataan dampak sosial dan tinjauan etika. Proses coding dilakukan dalam
tiga tahap, yaitu pengumpulan data, spesifikasi taksonomi, dan coding akhir. Untuk
pernyataan dampak sosial, studi ini melakukan coding pada 30% sampel acak dari
seluruh pernyataan (231 pernyataan), sedangkan untuk tinjauan etika, studi ini
membaca semua 96 tinjauan etika. Studi ini juga menjelaskan tentang kategori masalah
etis yang diangkat dalam tinjauan etika, yaitu masalah kebijakan dan masalah non-
kebijakan. Selain itu, studi ini juga membahas tentang rekomendasi yang diberikan oleh
para reviewer etika, baik dalam hal mengidentifikasi masalah etis maupun dalam hal
mitigasi dampak negatif. Studi ini menunjukkan bahwa para reviewer etika sering
merekomendasikan penambahan konten pada makalah untuk mengatasi masalah etis,
dan penulis umumnya terbuka untuk mengadopsi saran dari tinjauan etika.

Bab 3 impact statement findings dari jurnal ini membahas temuan dari analisis
pernyataan dampak sosial pada makalah yang disajikan di konferensi NeurIPS dari tahun
2018 hingga 2020. Studi ini menemukan bahwa banyak penulis makalah tidak
mengekspresikan agensi dan bertanggung jawab dalam mengidentifikasi atau
memitigasi dampak sosial negatif dari teknologi kecerdasan buatan (AI). Selain itu, studi
ini juga menemukan bahwa para penulis sering kali menolak tanggung jawab atau
menyalahkan faktor lain dalam mengatasi dampak negatif. Studi ini juga menemukan
bahwa para reviewer etika sering merekomendasikan penambahan konten pada
makalah untuk mengatasi masalah etis, dan penulis umumnya terbuka untuk
mengadopsi saran dari tinjauan etika.

Studi ini juga menemukan bahwa pernyataan dampak sosial pada makalah
NeurIPS 2021 lebih banyak membahas dampak negatif daripada pada tahun-tahun
sebelumnya. Studi ini menunjukkan bahwa para penulis makalah perlu lebih
memperhatikan dampak negatif dari teknologi kecerdasan buatan dan mengambil
tanggung jawab dalam mengidentifikasi dan memitigasi dampak negatif tersebut. Studi
ini memberikan rekomendasi untuk meningkatkan transparansi dalam proses penulisan
pernyataan dampak sosial, termasuk mengintegrasikan pernyataan dampak sosial ke
dalam proses penelitian dan mempertimbangkan dampak negatif yang lebih luas. Studi
ini juga merekomendasikan agar para penulis makalah mempertimbangkan dampak
negatif yang lebih luas dan mempertimbangkan kemungkinan dampak negatif yang
dihasilkan oleh tindakan yang dilakukan oleh pihak yang memiliki niat baik.

Bab 4 ethics review findings dari jurnal ini membahas temuan dari analisis
tinjauan etika pada makalah yang disajikan di konferensi NeurIPS tahun 2021. Studi ini
menemukan bahwa tinjauan etika umumnya membahas masalah etis yang terkait
dengan pelanggaran kebijakan dan masalah non-kebijakan yang memerlukan
pertimbangan etis yang lebih mendalam. Tinjauan etika juga menyoroti implikasi
penelitian dalam hal bagaimana teknologi kecerdasan buatan dapat memperpetuasi bias
sosial atau diskriminasi, seperti bias rasial dan diskriminasi.

Studi ini juga menemukan bahwa para penulis makalah umumnya terbuka untuk
menerima saran dari tinjauan etika dan merekomendasikan penambahan konten pada
makalah untuk mengatasi masalah etis. Namun, studi ini juga menemukan bahwa ada
ketidaksesuaian antara alasan mengapa makalah ditandai untuk tinjauan etika oleh
reviewer asli dan apa yang dibahas atau dipertimbangkan oleh tinjauan etika.
 Studi ini merekomendasikan agar para penulis makalah lebih memperhatikan
masalah etis dan mempertimbangkan dampak negatif yang lebih luas dari teknologi
kecerdasan buatan. Studi ini juga merekomendasikan agar proses tinjauan etika lebih
terintegrasi ke dalam proses penelitian dan bahwa para penulis makalah harus lebih
bertanggung jawab dalam mengidentifikasi dan memitigasi dampak negatif dari
teknologi kecerdasan buatan.

Bab 5 recommendations dari jurnal ini memberikan rekomendasi untuk

meningkatkan kualitas tinjauan etika dan pernyataan dampak sosial pada makalah yang
disajikan di konferensi NeurIPS. Studi ini merekomendasikan agar para penulis makalah
lebih memperhatikan dampak negatif dari teknologi kecerdasan buatan dan mengambil
tanggung jawab dalam mengidentifikasi dan memitigasi dampak negatif tersebut. Para
penulis makalah juga harus lebih terbuka untuk menerima saran dari tinjauan etika dan
merekomendasikan penambahan konten pada makalah untuk mengatasi masalah etis.

Studi ini merekomendasikan agar proses tinjauan etika lebih terintegrasi ke

dalam proses penelitian dan bahwa para penulis makalah harus lebih bertanggung jawab
dalam mengidentifikasi dan memitigasi dampak negatif dari teknologi kecerdasan
buatan. Para penulis makalah juga harus lebih memperhatikan masalah etis dan
mempertimbangkan dampak negatif yang lebih luas dari teknologi kecerdasan buatan.

Studi ini merekomendasikan agar para penulis makalah lebih

mempertimbangkan dampak negatif yang lebih luas dan mempertimbangkan
kemungkinan dampak negatif yang dihasilkan dari tindakan yang dilakukan oleh pihak
yang memiliki niat baik. Para penulis makalah juga harus lebih memperhatikan
dokumentasi dan protokol yang berkaitan dengan penelitian mereka, terutama dalam
hal penggunaan data sensitif dan eksperimen yang melibatkan subjek manusia atau
hewan.
 Studi ini juga merekomendasikan agar para reviewer etika lebih memperhatikan
masalah etis yang terkait dengan teknologi kecerdasan buatan dan memberikan
rekomendasi yang lebih spesifik dan terperinci untuk mengatasi masalah etis pada
makalah. Para reviewer etika juga harus lebih memperhatikan dampak negatif yang lebih
luas dari teknologi kecerdasan buatan dan mempertimbangkan kemungkinan dampak
negatif yang dihasilkan dari tindakan yang dilakukan oleh pihak yang memiliki niat baik.