"Pertama, harus dipastikan adanya kendali utama manusia atas penggunaan kekuatan senjata," kata Callamard dalam diskusi panel pada konferensi REAIM 2023 yang digelar di Den Haag pada Rabu (15/2).
REAIM 2023 adalah platform bagi semua pemangku kepentingan untuk membahas peluang, tantangan, dan risiko utama yang terkait dengan penggunaan kecerdasan buatan di dunia militer.
Menurut Callamard, prinsip kemanusiaan harus tetap dijaga dan hal itu membutuhkan kendali manusia atas kecerdasan buatan, terutama untuk persenjataan.
"Tanpa kendali manusia kita akan kehilangan kapasitas untuk menjaga harkat dan kapabilitas manusia," kata dia.
Kedua, lanjut dia, sistem persenjataan otonom (AWS) penuh harus dilarang karena senjata seperti itu memilih sendiri target tanpa keterlibatan manusia.
Ketiga, harus ada pengaturan ketat atas AWS terutama yang memiliki potensi menjadi pembunuh massal untuk memastikan bahwa penggunaannya mengikuti hukum internasional dan hukum hak asasi manusia (HAM).
Baca juga: Belanda gelar konferensi penggunaan AI dalam militer
Terkait akurasi kecerdasan buatan (AI), Callamard mengatakan bahwa kehandalan dan presisi tidak berarti AI selaras dengan hukum internasional.
"Penggunaan drone, meski disebut 'dapat diandalkan' tetapi penggunaan drone sendiri sudah merupakan pelanggaran hukum internasional," kata dia.
Callamard menyebutkan bahwa penggunaan pesawat nirawak (drone) telah meningkatkan kematian dan korban luka di kalangan sipil.
Penggunaan bom berpandu seperti dalam perang Ukraina, meski sangat presisi, tetap melanggar hukum internasional.
"Tentu saja presisi untuk membunuh warga sipil adalah sesuatu yang kita tidak ingin dukung," ujarnya.
"Kita tidak bisa membuat perang bersih. Perang itu kotor. Dan kita membuat senjata yang membuatnya makin mematikan, makin banyak bias. Ini bukan permainan," lanjutnya.
Callamard juga mengungkapkan kekhawatiran jika nanti senjata berbasis kecerdasan buatan dipakai di ranah sipil, seperti di wilayah perbatasan.
Sementara itu, Kepala Pertahanan Angkatan Bersenjata Belanda Jendral Onno Eichelsheim mengatakan di masa depan kekuatan militer tidak dinilai oleh seberapa besar pasukan dan kemampuannya, namun dari sebagus apa algoritmanya.
"Yang paling penting untuk AI adalah kehandalan, bisa dipercaya dan tidak ada bias data. Mendapatkan data handal yang bisa digunakan oleh AI adalah elemen terpenting sebelum kita menggunakannya di seluruh spektrum militer," kata Eichelsheim.
Ia mengakui adanya kelemahan AI terkait moral dan etika.
"Kita juga ada dilema tentang moral dan etika yang digunakan dalam angkatan bersenjata. Kami mempertimbangkan hukum internasional dan tidak bisa begitu saja memasukkan (data) dalam sistem algoritma AI," katanya.
Jadi ada banyak potensi kecerdasan buatan, namun juga banyak keterbatasan, lanjut Eichelsheim.
Baca juga: Menlu Belanda mengajak dunia sepakati pengaturan AI dalam militer
Baca juga: NGO Belanda desak perumusan pakta senjata otonom penuh
Pewarta: Sri Haryati
Editor: Yuni Arisandy Sinaga
Copyright © ANTARA 2023
