Penggunaan AI dalam Perang Harus Tunduk pada Batasan Etis

PERTUMBUHAN  kompleks industri-militer telah menjadi ciri utama lanskap politik saat ini dan menjadi sektor penting dalam ekonomi berbagai negara. Hubungan erat antara kepentingan ekonomi, aparatur militer, dan keputusan politik menghasilkan suatu “bangsa bersenjata”, di mana perang tampak sebagai perpanjangan alami dari politik, dan pasar senjata menjadi daya dorong otonom di balik keputusan-keputusan militer.

Kita  tidak dapat mengabaikan kepentingan ekonomi yang sangat besar di balik perang. Industri persenjataan dan negara pemasok senjata memperoleh keuntungan dari pasar yang justru berkembang karena konflik. Dalam arti ini, terdapat pula kepentingan finansial yang turut menyulut ketegangan di berbagai kawasan dunia.

Persenjataan militer kembali mendapatkan perhatian besar. Pada masa lalu, pengakuan atas ancaman senjata yang mampu menghancurkan seluruh umat manusia telah mendorong jalan menuju peredaan ketegangan dan perundingan pelucutan senjata.

Sayangnya, pendekatan ini telah ditinggalkan, dan perkembangan arsenal nuklir — termasuk kemungkinan penggunaannya secara “taktis” — membuat penggunaan senjata semacam itu tampak semakin tidak mustahil.

Dalam konteks ini, Perjanjian tentang Pelarangan Senjata Nuklir, yang mulai berlaku pada tahun 2021 dengan dukungan lebih dari tujuh puluh negara, merupakan langkah penting. Namun, perjanjian ini berisiko tetap bersifat simbolis karena kekuatan nuklir utama tidak menyetujuinya. Hal ini telah melahirkan keyakinan yang tersebar luas tetapi keliru bahwa penangkalan nuklir merupakan prasyarat yang tak tergantikan bagi keamanan.

Keyakinan ini juga berkontribusi pada perlombaan senjata baru yang sulit dikendalikan, disertai pembongkaran bertahap berbagai perjanjian pengurangan senjata nuklir, serta pengembangan senjata yang “diminiaturisasi”, yang membuat penggunaannya tampak sebagai pilihan yang lebih mungkin.

Logika yang sama berlaku pada perang konvensional. Kekuatan militer, lemahnya prakarsa diplomatik, dan rumitnya kepentingan yang dipertaruhkan turut menyebabkan konflik cenderung berlarut-larut, dengan biaya kemanusiaan dan lingkungan yang sangat tinggi.

Jauh lebih mudah memulai perang daripada menghentikannya. Namun, pembahasan mengenai pencegahan konflik tetap secara tragis berada di pinggiran. Situasi semakin tidak stabil karena hadirnya pelaku bersenjata baru, seperti kelompok jihad, milisi swasta, dan jaringan kriminal, yang menandai berakhirnya monopoli negara atas penggunaan kekuatan.

Sering kali kelompok ini mencampurkan motivasi ideologis yang kabur dengan kepentingan ekonomi yang konkret, mengubah perang menjadi “cara hidup” bagi seluruh generasi kaum muda dan anak-anak. Di sini, tujuannya bukan lagi kemenangan yang definitif, melainkan pelanggengan konflik sebagai sumber kekuasaan dan pendapatan.

Senjata dan Kecerdasan Artifisial
Skenario tersebut berkaitan dengan pengembangan sistem persenjataan yang tak henti-hentinya, khususnya yang melibatkan AI (kecerdasan arfisial). Takhta Suci baru-baru ini mencatat bahwa semakin mudahnya sistem senjata otonom dikerahkan membuat perang menjadi lebih “layak dilakukan” dan semakin kurang tunduk pada kendali manusia. Hal ini melanggar prinsip bahwa kekuatan bersenjata hanya boleh digunakan sebagai jalan terakhir dalam kasus pembelaan diri yang sah.

Karena itu, pengembangan dan penggunaan AI dalam perang harus tunduk pada batasan etis yang paling ketat, untuk menjamin penghormatan terhadap martabat manusia dan kesucian hidup, serta untuk menghindari perlombaan pengembangan senjata semacam itu.  Kadang-kadang orang berbicara tentang “agen moral artifisial”, seolah-olah mesin mampu membedakan yang benar dan yang salah dengan konsistensi yang lebih besar daripada manusia.

Namun penilaian moral tidak dapat direduksi menjadi kalkulasi, sebab ia melibatkan hati nurani, tanggung jawab pribadi, dan pengakuan terhadap sesama sebagai pribadi.

Karena itu, tidak dapat dibenarkan menyerahkan keputusan yang mematikan atau yang tidak dapat dibalikkan kepada sistem artifisial. Tidak ada algoritma yang dapat membuat perang menjadi dapat diterima secara moral.

AI tidak menghapus ketidakmanusiawian intrinsik konflik; sebaliknya, AI hanya dapat membuat konflik terjadi lebih cepat dan menjadi lebih impersonal, menurunkan ambang penggunaan kekerasan, mengubah pertahanan menjadi prediksi ancaman, dan dengan demikian mereduksi korban menjadi data.

Dengan cara ini, AI akan membiasakan kita pada gagasan bahwa kekerasan tak terhindarkan dan hanya perlu dioptimalkan.

Hal ini tidak mengurangi pentingnya menanamkan, sejauh mungkin, nilai-nilai dan penilaian yang sehat ke dalam sistem artifisial yang kita bangun, agar sistem tersebut dapat berkontribusi pada ekosistem moral di mana manusia lebih mampu mendengarkan hati nuraninya sendiri, sekaligus memungkinkan model AI menetapkan batas-batas yang tepat.

Tidak cukup menyerukan etika secara umum. Kriteria konkret untuk penegasan harus ditetapkan. Kriteria pertama menyangkut tanggung jawab pribadi. Ketika keputusan untuk menyerang menjadi otomatis atau tidak transparan, risiko pelepasan tanggung jawab semakin besar. Karena itu, rantai tanggung jawab harus dapat dikenali dan diverifikasi; mereka yang merancang, melatih, mengesahkan, dan menggunakan teknologi harus diminta pertanggungjawaban atas keputusan-keputusan mereka.

Kriteria kedua berkaitan dengan kerangka waktu moral dalam membuat penilaian.
Meskipun AI cenderung mempercepat proses pengambilan keputusan, kecepatan dan efisiensi tidak boleh pernah menjadi dorongan tertinggi bagi keputusan-keputusan yang tidak dapat dibalikkan dalam konteks perang.
Kriteria ketiga adalah pengenalan dan perlindungan warga sipil. Setiap teknologi yang memudahkan serangan tanpa melihat wajah manusia menurunkan ambang moral konflik.

Pemilihan sasaran dan penggunaan kekuatan tidak boleh mencampuradukkan kombatan dan non-kombatan, juga tidak boleh mengabaikan dampaknya terhadap penduduk yang tidak berdaya. Kriteria-kriteria ini melahirkan sejumlah tuntutan yang tidak dapat ditawar.

Pertama, semua sistem yang digunakan dalam situasi perang harus menjamin kemungkinan untuk menelusuri kembali dan merekonstruksi proses pengambilan keputusan, sehingga akuntabilitas dan kesalahan tidak dialihkan begitu saja kepada “mesin”.

Kedua, keputusan untuk menggunakan kekuatan mematikan tidak dapat didelegasikan kepada proses yang tertutup atau otomatis, melainkan harus tetap berada di bawah kendali manusia yang efektif, sadar diri, dan bertanggung jawab.

Akhirnya, sangat mendesak untuk menetapkan kerangka bersama —juga pada tingkat internasional —guna mengekang perlombaan senjata teknologi dan menjamin perlindungan yang kuat bagi warga sipil serta infrastruktur yang diperlukan bagi kelangsungan hidup mereka. * (Ensiklik ini terdiri atas lima bab, 400 halaman. Judul ensiklik adalah MENJAGA MARTABAT MANUSIA DI ERA KECERDASAN ARTIFISIAL. Diterbitkan di Roma, 15 Mei 2026)