Machine Translated by Google

Studi Hukum Internasional 2021

Kelompok Pakar Pemerintahan akhirnya menyimpulkan pada sesi keduanya di tahun

2019 bahwa praktik yang baik dalam pelaksanaan tinjauan hukum LAWS adalah salah
satu masalah “yang mungkin mendapat manfaat dari klarifikasi tambahan.”57 Pada
bulan Desember 2019, Konferensi Internasional ke - 33 Dewan Palang Merah dan
Bulan Sabit Merah menekankan kembali peran dan penerapan tinjauan hukum terhadap
teknologi baru.58
Meskipun debat diplomatik agak tidak kritis terhadap penerapan tinjauan hukum
pada sistem AI, hanya sedikit praktisi hukum dan cendekiawan yang telah mempelajari
masalah ini secara mendalam. Pekerjaan awal telah menerapkan praktik Negara yang
ada pada sistem otonom, dengan demikian menegaskan bahwa HHI memiliki
mekanisme yang tepat untuk memastikan kepatuhan oleh teknologi baru.59 Boulanin
dan Ver bruggen, peneliti di Stockholm International Peace Research Institute, telah
mengembangkan ini untuk memetakan yang ada praktik dan mengidentifikasi
tantangan terkait tinjauan hukum dari teknologi baru. Mereka menyimpulkan bahwa
untuk senjata yang dapat beroperasi secara mandiri melalui aplikasi AI, praktik yang
ada untuk melakukan tinjauan hukum tidak akan cukup. Sistem AI perlu diperiksa
secara berbeda dari senjata tradisional untuk memastikan kepatuhannya terhadap
hukum internasional.60 Komentator lain dalam seri blog Komite Palang Merah
Internasional (ICRC) secara khusus

2019), https://unog.ch/80256EDD006B8954/(httpAssets)/52C72D09DCA60B8BC1258
41E003579D8/$file/CCW_GGE.1_2019_WP.6.pdf.
57. Laporan Sidang Tahun 2019, supra note 52, ¶ 18.c.
58. Lihat ICRC, HUKUM KEMANUSIAAN INTERNASIONAL DAN TANTANGAN KONFLIK
BERSENJATA SEMENTARA , supra note 10, hal. 34–35. Sudah pada tahun 2003, pada Konferensi
Nasional Palang Merah dan Bulan Sabit Merah Internasional ke-28, ditegaskan kembali melalui
konsensus perlunya memastikan “legalitas senjata baru di bawah hukum internasional. . . mengingat
pesatnya perkembangan teknologi senjata dan untuk melindungi warga sipil dari efek sembarangan
senjata dan kombatan dari penderitaan yang tidak perlu dan senjata terlarang.” Lihat KOMITE
INTERNASIONAL PALANG MERAH & FEDERA INTERNASIONAL
TION OF RED CROSS DAN RED CRESCENT MASYARAKAT, KONFERENSI INTERNASIONAL
KE-28 DARI RED CROSS DAN RED CRESCENT 20, https://www.icrc.org/en/doc/as sets/files/
other/icrc_002_1103.pdf (terakhir dikunjungi Feb .22, 2021).
59. Meier, supra note 55. William H. Boothby, Highly Automated and Autonomous Technol
ogies, in NEW TECHNOLOGIES AND THE LAW IN WAR AND PEACE 137 (William H. Boothby
ed., 2018) [selanjutnya disebut NEW TECHNOLOGIES].
60. VINCENT BOULANIN & MAAIKE VERBRUGGEN, STOCKHOLM INTERNATIONAL
PEACE RESEARCH INSTITUTE COMPENDIUM ON ARTICLE 36 ULASAN 16 (2017), https://
www.sipri.org/sites/default/files/2017-12/sipri_bp_1712_article_36_compen dium_2017.pdf
[selanjutnya disebut KOMPENDIUM PADA PASAL 36 ULASAN].

522
Machine Translated by Google

Tinjauan Hukum Algoritma Perang Vol. 97

didedikasikan untuk HUKUM menggarisbawahi nilai tinjauan hukum.61 Pekerjaan ini

menggemakan pentingnya diberikan tinjauan hukum oleh Negara dalam konteks CCW.
Ini juga menetapkan dasar untuk menilai secara rinci bagaimana melakukan tinjauan
hukum terhadap sistem AI militer dalam praktiknya dan memeriksa tantangan intrinsik
terkait dengan teknologi baru ini.

IV. TINJAUAN HUKUM SENJATA , SARANA ATAU

METODE PERANG

Tinjauan hukum timbul dari persyaratan IHL bagi Negara-negara untuk menilai apakah
senjata, sarana, atau metode perang baru dilarang dalam beberapa atau semua
keadaan oleh hukum internasional.62 Tujuan tinjauan hukum adalah untuk mencegah
penggunaan senjata yang telah dilarang. atau dibatasi oleh aturan hukum internasional
tertentu atau tidak mampu mematuhi aturan utama yang mengatur perilaku permusuhan.
Oleh karena itu, tinjauan hukum merupakan alat nasional untuk mencegah pelanggaran
hukum internasional yang mungkin terjadi dengan pengenalan dan penggunaan
senjata baru.63 Negara-negara
pihak API terikat oleh kewajiban untuk melakukan tinjauan hukum berdasarkan
Pasal 36. Kewajiban ini dibangun di atas IHL lainnya. ketentuan, terutama pembukaan
Deklarasi Saint Petersburg 1868 yang berkaitan dengan bahan peledak

61. Netta Goussac, Safety Net or Tangled Web: Legal Review of AI in Weapons and War
fighting, HUMANITARIAN LAW & POLICY (18 April 2019), https://blogs.icrc.org/law-and policy/
2019/ 04/18/safety-net-tangled-web-legal-reviews-ai-weapons-war-fighting/; Dustin A.
Lewis, Tinjauan Hukum tentang Senjata, Sarana, dan Metode Peperangan yang Melibatkan
Kecerdasan Buatan: 16 Elemen untuk Dipertimbangkan, HUKUM & KEBIJAKAN KEMANUSIAAN
(21 Maret 2019), https://blogs.icrc.org/law-and -policy/2019/03/21/legal-reviews-weapons-
means- methods-warfare-artificial-intelligence-16-elements-mempertimbangkan/. Untuk analisis
lebih lanjut tentang senjata otonom dan tinjauan hukum, lihat Nikolas Stürchler & Michael
Siegrist, Pendekatan “Berbasis Kepatuhan” untuk Sistem Senjata Otonom, EJIL:TALK! (1
Desember 2017), https://www. ejiltalk.org/a-compliance-based-approach-to-autonomous-weapon-systems/.
62. Lihat KOMENTARI PROTOKOL TAMBAHAN 8 JUNI 1977 UNTUK KONVENSI GE
NEVA 12 AGUSTUS 1949, ¶ 1469 (Yves Sandoz, Christophe Swinarski & Bruno Zimmermann
eds., 1987).
63. KATHLEEN LAWAND, KOMITE INTERNASIONAL PALANG MERAH , PANDUAN
UNTUK TINJAUAN HUKUM SENJATA, SARANA DAN METODE PERANG: TINDAKAN UNTUK
MENERAPKAN PASAL 36 PROTOKOL TAMBAHAN I TAHUN 1977, hal 4 (2006) [selanjutnya
disebut PANDUAN ICRC] .

523
Machine Translated by Google

Studi Hukum Internasional 2021

proyektil64 dan Pasal 1 yang sama dengan Konvensi Jenewa 1949.65 Selain itu,
Regulasi Konvensi IV Den Haag dan API menegaskan bahwa hak para pihak yang
berperang untuk memilih dan mengadopsi sarana dan metode perang “tidak terbatas.”66
Ini menyiratkan kewajiban untuk berhati-hati untuk menilai legalitas senjata yang
dikembangkan dan dimaksudkan untuk digunakan.67 Kewajiban untuk melakukan
tinjauan hukum dalam API dirumuskan secara umum dan samar-samar. Pasal 36
menyatakan bahwa:

Dalam penelaahan, pengembangan, perolehan atau adopsi senjata baru,

sarana atau metode perang, suatu Pihak Peserta Agung berkewajiban untuk
menentukan apakah penggunaannya, dalam beberapa atau semua keadaan,
akan dilarang oleh Protokol ini atau oleh setiap peraturan hukum internasional
68
lainnya yang berlaku bagi Pihak Peserta Agung.

64. Deklarasi Penolakan Penggunaan, pada Masa Perang, Proyektil Peledak dengan Berat
Di Bawah 400 Gram, 29 November/Des. 11, 1868, 138 Konsol. TS 297, 18 MARTENS NOU
VEAU RECUEIL (ser. 1) 474 [selanjutnya disebut Deklarasi St. Petersburg 1868].
65. William H. Boothby, Regulating New Weapon Technologies, in NEW TECHNOLOGIES, supra note
59, at 16, 17. Lihat juga ICRC GUIDE, supra note 63, at 4. Menurut 1868 St.
Deklarasi Petersburg,

para Pihak Penandatangan atau Penanda Tangan mencadangkan diri mereka sendiri untuk datang ke sini
setelah suatu persetujuan kapan pun suatu proposisi yang tepat akan disusun mengingat perbaikan-perbaikan
di masa depan yang dapat dilakukan oleh ilmu pengetahuan dalam persenjataan pasukan, untuk
mempertahankan prinsip-prinsip yang telah mereka tetapkan, dan mendamaikan kebutuhan perang dengan
hukum kemanusiaan.

Deklarasi St. Petersburg 1868, supra note 64. Pasal 1 kesamaan Konvensi Jenewa 1949
menyatakan, “Pihak-Pihak Peserta Agung berjanji untuk menghormati dan memastikan
penghormatan terhadap Konvensi ini dalam segala keadaan.” Lihat, misalnya, Konvensi (I)
untuk Perbaikan Kondisi Yang Terluka dan Sakit di Angkatan Bersenjata di Lapangan art.
1, 12 Agustus 1949, 6 UST 3114, 75 UNTS 31. Pada Pasal Umum 1, lihat juga TALLINN
MANUAL TENTANG HUKUM INTERNASIONAL YANG BERLAKU UNTUK OPERASI
CYBER 153 (Michael N. Schmitt ed., 2013).
66. Peraturan Menghormati Hukum dan Kebiasaan Perang di Tanah, dilampirkan pada Konvensi No. IV
Menghormati Hukum dan Kebiasaan Perang di Tanah art. 22, 18 Oktober 1907, 36 Stat. 2227, TS No. 539
[selanjutnya disebut Peraturan Den Haag]; API, catatan supra 7, seni. 35(1).
67. PJ Blount, Tinjauan Hukum Praoperasional Kemampuan Cyber: Memastikan Legalitas
Senjata Cyber, 39 TINJAUAN HUKUM KENTUCKY UTARA 214 (2012).
68. API, catatan supra 7, pasal. 36.

524
Machine Translated by Google

Tinjauan Hukum Algoritma Perang Vol. 97

Apakah Pasal 36 telah menjadi kebiasaan masih diperdebatkan.69 Namun, negara-

negara yang bukan anggota API, seperti Amerika Serikat dan Israel, telah
melembagakan tinjauan hukum. Praktik AS bahkan mendahului adopsi API.
Bagaimanapun, kewajiban yang lebih sempit ada di bawah hukum adat yang
membebankan tanggung jawab pada Negara untuk memastikan setidaknya alat perang
yang diperoleh atau digunakan sesuai dengan IHL.70 Pasal 36 dan norma adat terkait
tidak menyebutkan prosedur untuk diikuti, konsekuensi dari temuan tinjauan, dan aktor
mana di suatu Negara yang harus melakukan tinjauan hukum.71 Oleh karena itu, cara
melakukan tinjauan hukum sebagian besar ditentukan oleh peraturan, kebijakan, dan
praktik nasional.72 Amerika Serikat dan Inggris memimpin dalam hal ini. Mereka, serta
Australia, Norwegia, dan Swedia, termasuk di antara sedikit Negara yang telah berbagi
praktik mereka dengan negara lain.73 Untuk mendukung pelaksanaan tinjauan hukum,
ICRC menerbitkan pada tahun 2006 “Panduan Tinjauan Hukum Senjata , Sarana dan

69. Lihat Kenneth Anderson, Daniel Reisner & Matthew C. Waxman, Menyesuaikan Hukum Konflik
Bersenjata ke Sistem Senjata Otonom, 90 STUDI HUKUM INTERNASIONAL 386, 398 n.27 (2014). Untuk
diskusi tentang sifat kebiasaan Pasal 36, lihat Natalia Jevglevskaja, Weapons Review Obligation under
Customary International Law, 94 INTERNATIONAL LAW STUDI 186 (2018).

70. Lihat, misalnya, TALLINN MANUAL, supra note 65, di 154.

71. WILLIAM H. BOOTHBY, SENJATA DAN HUKUM KONFLIK BERSENJATA 344–45
(2d ed. 2016).
72. Tinjauan Hukum Senjata Baru: Lingkup Kewajiban dan Praktik Terbaik, HUKUM & KEBIJAKAN
KEMANUSIAAN (6 Oktober 2016), https://blogs.icrc.org/law-and-policy/2016/10/06/ legal-re view-new-
weapons/. Untuk ikhtisar menyeluruh tentang praktik Negara tentang tinjauan hukum, lihat KOMPENDIUM
TENTANG ULASAN PASAL 36 , supra note 60. Lihat juga Tinjauan Hukum Senjata, PREMPT, https://
www.premt.net/resources/legal-review/ (terakhir dikunjungi 22 Februari 2021).
73. Australia, Swedia, dan Norwegia, misalnya, telah membagikan praktik mereka dalam konteks
Kelompok Pakar Pemerintah tentang HUKUM. Lihat, misalnya, Australia, The Australian Article 36 Review
Process, UN Doc. CCW/GGE.2/2018/WP.6 (30 Agustus 2018), https://www.unog.ch/80256edd006b8954/
(httpassets)/46ca9dabe945fdf9c12582fe00380 420/$file/2018_gge+laws_august_working+paper_australia.pdf
[dia setelahnya Proses Peninjauan Pasal 36 Australia]. Secara umum, dua puluh Negara diketahui memiliki
prosedur untuk melakukan tinjauan hukum, termasuk Belgia, Prancis, Jerman, Belanda, Inggris, dan Amerika
Serikat. Namun, beberapa Negara cenderung tidak mengungkapkan praktik mereka karena dianggap
sebagai informasi sensitif sehubungan dengan keamanan nasional. Lihat PANDUAN ICRC , supra note 63,
hal 5 n.8; lihat juga Isabelle Daoust, Robin Coupland & Rikke Ishoey, Perang Baru, Senjata Baru? Kewajiban
Negara untuk Menilai Legalitas Sarana dan Metode Peperangan, 84 TINJAUAN INTERNASIONAL
TENTANG PALANG MERAH 354 (2002).

525
Machine Translated by Google

Studi Hukum Internasional 2021

Metode Peperangan: Langkah-langkah untuk Menerapkan Pasal 36 Protokol

Tambahan I Tahun 1977” (Panduan ICRC).74
Sementara teks perjanjian Pasal 36 tidak spesifik, praktek negara tinjauan hukum
memerlukan generalisasi tertentu. Senjata, sarana, dan metode peperangan harus
dinilai berdasarkan kewajiban berdasarkan API, serta “aturan hukum internasional
lainnya yang berlaku untuk Pihak Peserta Agung” menurut Pasal 36 API.75 Panduan
ICRC menjelaskan bahwa peninjau pertama-tama harus menilai keberadaan perjanjian
khusus atau ketentuan hukum adat yang melarang senjata yang sedang ditinjau atau
penggunaan tertentu daripadanya.76 Larangan atau pembatasan khusus penggunaan
senjata, seperti larangan Konvensi Senjata Kimia tentang penggunaan senjata kimia,
77
membuat analisis lebih lanjut tidak relevan. Jika tidak ada aturan seperti itu, senjata
harus dievaluasi berdasarkan prinsip-prinsip dasar HHI yang mengatur perilaku
permusuhan. Sebagian besar komentator berbagi pandangan bahwa ada tiga prinsip
yang relevan: (1) larangan menggunakan “proyektil dan bahan dan metode peperangan
yang bersifat alami untuk menyebabkan luka berlebihan atau penderitaan yang tidak
perlu” dari Pasal 35(2) API78 dan Pasal 23(e) Regulasi Den Haag; (2) pelarangan
79
penggunaan senjata yang—karena sifatnya—tidak dapat membedakan antara sasaran
militer dan sipil atau objek sipil, atau digunakan secara diskriminatif sebagaimana
disyaratkan dalam Pasal 48 dan 51 API;80 dan (3) pelarangan penggunaan senjata
menggunakan senjata yang menyebabkan kerusakan luas, jangka panjang dan parah
terhadap lingkungan alam berdasarkan Pasal 35(3) dan 55 API.81 Pada prinsip
terakhir, ketidaksepakatan muncul mengenai apakah aturan tersebut relevan untuk
setiap Negara sebagai masalah hukum adat atau mengikat hanya Negara Pihak ke
API sebagai masalah hukum perjanjian.82

74. PANDUAN ICRC, supra note 63.

75. API, catatan supra 7, pasal. 36 (penekanan ditambahkan).
76. PANDUAN ICRC , supra note 63, hal. 11.
77. Konvensi tentang Larangan Pengembangan, Produksi, Penimbunan, dan Penggunaan Senjata Kimia dan Seni
Penghancurannya. 1(b), 13 Januari 1993, 1974 UNTS
45.

78. API, catatan supra 7, pasal. 35(2).

79. Peraturan Den Haag, supra note 66, pasal. 23(e).
80. API, supra note 7, art. 48, 51.
81. id. seni. 35(3), 55.
82. Menurut Panduan ICRC tentang Pasal 36, misalnya, aturan tersebut mencerminkan hukum adat. Lihat
PANDUAN ICRC , supra note 63, hal. 15–16; Aturan 45. Menyebabkan Kerusakan Serius pada Lingkungan Alam, ICRC,
https://ihl-databases.icrc.org/customary-ihl/eng/docs/v1_rul_rule45 (terakhir dikunjungi pada 22 Februari 2021). Untuk
pandangan sebaliknya, lih. BOOTHBY, supra note 71, at 351. ICRC Guide dan Boothby setuju, sebaliknya, tentang
perlunya mempertimbangkan “apakah ada

526
Machine Translated by Google

Tinjauan Hukum Algoritma Perang Vol. 97

Ada perbedaan pandangan lebih lanjut mengenai kerangka normatif yang berlaku
yang berfungsi sebagai titik referensi untuk tinjauan hukum. Pertama, menarik untuk
dicatat bahwa Panduan ICRC mencakup prinsip proporsionalitas, yaitu larangan
serangan yang diperkirakan akan mengakibatkan kerugian sipil yang berlebihan
(kematian, luka-luka, atau kerusakan objek sipil, atau kombinasinya). ) dibandingkan
dengan keuntungan militer yang konkret dan langsung yang diantisipasi, di antara
prinsip-prinsip relevan yang harus dipertimbangkan oleh tinjauan hukum. Prinsip ini,
bagaimanapun, dirancang untuk memandu perilaku nyata di medan perang.
Penerapannya bergantung pada evaluasi konkret dan spesifik yang dilakukan oleh
prajurit atau komandan mengingat keadaan yang ada. Oleh karena itu, hampir tidak
cocok sebagai parameter untuk tinjauan hukum. Relevan untuk tinjauan hukum adalah
kemampuan senjata untuk membedakan antara target yang sah dan tidak sah untuk
memungkinkan penggunanya di masa depan mematuhi prinsip proporsionalitas.83
Kedua, masih diperdebatkan apakah tinjauan hukum harus mempertimbangkan
kesesuaian senjata dengan hukum hak asasi manusia internasional. Hanya sedikit
Negara yang telah melaporkan bahwa mereka mempertimbangkan hal ini ketika
menilai senjata yang mungkin digunakan oleh angkatan bersenjata dalam operasi
penegakan hukum.84 Ketiga, masih ada pertanyaan tentang relevansi “prinsip
kemanusiaan” dan “perintah publik”. hati nurani”—yang disebut Klausul Martens.85
Panduan ICRC menyatakan bahwa senjata yang tidak dilarang atau dibatasi oleh aturan
tertentu hukum internasional akan tetap melanggar hukum jika penggunaannya akan bertentangan dengan
prinsip-prinsip kemanusiaan dan perintah hati nurani publik.86 Sebagian besar
komentator mengabaikan Klausul Martens sebagai parameter yang tidak relevan karena
prinsip tersebut tidak memberikan konten normatif dengan sendirinya.87 Dengan hormat

kemungkinan perkembangan di masa depan dalam hukum konflik bersenjata yang dapat diharapkan
mempengaruhi senjata” dalam melakukan tinjauan hukum. Lihat BOOTHBY, id. pada 348; PANDUAN ICRC ,
supra note 63, hal 11.
83. Lihat juga BOOTHBY, supra note 71, di 349–50.
84. KOMPENDIUM ULASAN PASAL 36 , supra catatan 60, hal 16.
85. Regulasi Penghormatan Hukum dan Kebiasaan Perang di Darat, dilampirkan pada Konvensi No. II
tentang Hukum dan Kebiasaan Perang di Darat, 29 Juli 1899, 32 Stat. 1803, TS No. 403; API, catatan supra 7,
seni. 1(2).
86. PANDUAN ICRC , supra note 63, hal. 17.
87. Lihat, misalnya, BOOTHBY, supra note 71, at 351 (mengutip YORAM DINSTEIN, THE
CONDUCT OF HOSTILITIES UNDER THE LAW OF INTERNATIONAL ARMED CONFLICT 9 (2d
ed. 2012); Christopher Greenwood, Historical Development and Legal Basis, in THE HANDBOOK
HUKUM KEMANUSIAAN TERNASIONAL 1, 34–35 (Dieter Fleck ed., 2d ed. 2008)) .

527
Machine Translated by Google

Studi Hukum Internasional 2021

dalam praktik Negara, hanya Australia yang diketahui mempertimbangkannya,

sedangkan beberapa Negara hanya “mengingatnya” selama tinjauan hukum.88
Saat melakukan tinjauan hukum, Negara perlu mempertimbangkan karakteristik
senjata yang diberikan. Peninjau memulai analisis dengan memeriksa bagaimana
senjata beroperasi (seperti spesifikasi teknis, fungsionalitas, penggunaan senjata
historis, urutan pertempuran yang masih ada, karakteristik mematikan, dan akurasi)
serta data senjata (seperti titik pengambilan data, interpretasi data, dan aplikasi). dari
data ke spesifikasi).89 Kecuali jelas bahwa senjata tersebut tidak dapat memenuhi
HHI dalam konteks atau keadaan apa pun, mereka kemudian perlu menilai bagaimana
dan di mana senjata itu diharapkan akan digunakan dan “dampak pekerjaan yang
diantisipasi secara wajar. ”90 Dengan kata lain, karakteristik senjata harus dianalisis
berdasarkan metode penggunaan senjata serta konteks yang dimaksudkan.91 Hal ini
diperlukan karena prinsip-prinsip HHI yang relevan dengan tinjauan hukum sangat
tergantung konteks, dan kepatuhan terhadapnya bergantung pada lingkungan dan
keadaan saat digunakan. Menilai senjata berdasarkan perkiraan penggunaannya
memungkinkan pengkaji untuk menentukan apakah senjata tersebut dapat digunakan
secara sah dalam pengaturan tertentu dan/atau dalam kombinasi dengan metode
tertentu; pembatasan total atau sebagian pada penggunaannya dapat terjadi.92
Namun, ada perbedaan dalam hal ini. Pasal 36
API mensyaratkan evaluasi legalitas senjata dalam “semua atau beberapa
keadaan”,93 yang menyiratkan bahwa peninjau harus menyelidiki semua keadaan di
mana penggunaan senjata dapat melanggar hukum. Mengenai prinsip pembedaan,
misalnya senjata yaitu

88. KOMPENDIUM PADA ULASAN PASAL 36 , supra note 60, at 3. Lihat juga Australian Article 36
Review Process, supra note 73, at 5 n.20.
89. Lihat, misalnya, Proses Peninjauan Pasal 36 Australia, supra note 73, ¶ 6. Lihat juga Departemen
Angkatan Udara AS, AFI51-401, Hukum Perang Bagian 2 (2018) [selanjutnya disebut AFI51-401].

90. AFI51-401, supra note 89, ¶ 6.1.1.

91. ULASAN PASAL 36 : MENGHADAPI TANTANGAN , supra note 9, at 22; DI
KOMITE TERNASIONAL PALANG MERAH , PERTEMUAN AHLI : SISTEM SENJATA
OTONOMI , IMPLIKASI PENINGKATAN OTONOMI DALAM FUNGSI KRITIS SENJATA
23 (2016) [selanjutnya disebut SISTEM SENJATA OTONOMI , IMPLIKASI
PENINGKATAN OTONOMI ]. Selanjutnya, selama Konferensi Diplomatik ketika API
dirancang, pelapor Komite III menjelaskan bahwa “pasal [36] dimaksudkan untuk
mewajibkan Negara-negara untuk menganalisis apakah penggunaan senjata untuk
penggunaan normal atau diharapkan akan dilarang berdasarkan beberapa atau semua
keadaan.” KOMENTAR PADA PROTOKOL TAMBAHAN , supra note 62, ¶ 1469.
92. PANDUAN ICRC , supra note 63, hal 10.
93. API, supra note 7, art. 36.

528
Machine Translated by Google

Tinjauan Hukum Algoritma Perang Vol. 97

tidak sembarangan dengan sendirinya akan dianggap melanggar hukum jika dimaksudkan
untuk digunakan secara sembarangan.94 Namun ada batasan untuk ini. Komentar ICRC
tentang Protokol Tambahan mencatat bahwa Negara hanya perlu menentukan “apakah
penggunaan senjata untuk penggunaan normal atau diharapkan akan dilarang dalam beberapa
atau semua keadaan. [Itu] tidak diperlukan untuk meramalkan atau menganalisis semua
kemungkinan penyalahgunaan senjata, karena hampir semua senjata dapat disalahgunakan
dengan cara yang akan dilarang.”95 Berdasarkan ini, Komentar menyimpulkan bahwa
96
“kewajiban hanya menyangkut penggunaan normal dari senjata seperti yang terlihat Dengan demikian,

pada saat evaluasi.” mereka yang bertanggung jawab atas peninjauan harus memiliki
pemahaman yang jelas tentang teknologi dan informasi yang cukup tentang lingkungan dan
keadaan di mana senjata akan digunakan.97 Oleh karena itu , fungsi dan efek senjata, serta
penggunaannya, harus diperhatikan. dapat diprediksi.98

V. PENILAIAN KEPATUHAN TERHADAP HUKUM PENARGETAN

Meskipun sistem senjata yang sepenuhnya otonom belum menjadi kenyataan, ada
kecenderungan peningkatan penggunaan AI untuk, atau terkait dengan, tugas penargetan.
Secara konseptual, otonomi dalam sistem senjata dapat dikategorikan menurut tiga sifat yang
berbeda, yaitu (1) hubungan komando dan kontrol manusia-mesin; (2) kecanggihan proses
pengambilan keputusan mesin; dan (3) jenis keputusan atau fungsi yang dibuat otonom.
Menurut sifat pertama, sistem dapat diklasifikasikan berdasarkan apakah mereka menerima
input oleh operator manusia untuk menjalankan fungsinya dalam (a) "human-in-the loop" dari
keputusan penargetan, mengacu pada sistem yang memilih target dan memberikan memaksa
atas perintah manusia; (b) “human-on-the-loop,” yang mampu memilih target dan memberikan
kekuatan tanpa interaksi manusia tetapi tetap berada di bawah pengawasan manusia sehingga
manusia tetap memiliki kekuatan untuk mengesampingkan tindakan mesin; dan (c) “human-out-
of-the-loop,” yang mengacu pada

94. Lihat KOMENTAR PADA PROTOKOL TAMBAHAN , supra note 62, ¶ 1402.
95. id. ¶ 1469 (penekanan ditambahkan).
96. id. ¶ 1480 (penekanan ditambahkan).
97. Jeffrey S. Thurnher, Meneliti Sistem Senjata Otonom dari Perspektif Hukum Konflik Bersenjata, dalam
TEKNOLOGI BARU DAN HUKUM KONFLIK BERSENJATA 213, 221 (Hi toshi Nasu & Robert McLaughlin eds.,
2014). Lihat juga Richard Moyes, Key Elements of Meaningful Human Control, ARTICLE36 (Apr. 2016), http://
www.article36.org/wp-content/uploads/2016/04/MHC-2016-FINAL.pdf .

98. Martin Hagström, Aplikasi Militer Pembelajaran Mesin dan Sistem Otonom, dalam DAMPAK KECERDASAN
BUATAN , supra note 12, at 32, 35.

529