Situasi/Kondisi perdebatan tentang senjata otonom

Sejumlah aktor Negara dan non-Negara melakukan perjalanan ke Jenewa bulan Agustus 2019 lalu untuk menghadiri pertemuan Kelompok Ahli Pemerintah (GGE) untuk Konvensi atas Senjata Konvensional Tertentu (CCW). Diskusi fokus pada tantangan dan respons internasional potensial terhadap senjata otonom: sistem yang ‘sekali diaktifkan, dapat memilih dan melibatkan target tanpa intervensi lebih lanjut oleh operator manusia’. [1]

Untuk sejumlah Negara dan juru kampanye, pertemuan terakhir ini berujung frustrasi, kegagalan untuk memajukan perdebatan tentang senjata otonom dengan cara yang berarti. Ini terjadi meskipun selama pertemuan itu sendiri semakin banyak seruan untuk melakukan pendekatan yang lebih berani.

Delegasi Uni Eropa memperingatkan bahwa kemajuan teknologi dalam peperangan otonom memiliki potensi untuk ‘mendahului kemampuan kita untuk menjunjung hukum internasional’. Brasil berbicara tentang ‘jendela peluang historis yang sempit’ untuk mengatasi tantangan yang ditimbulkan oleh teknologi ini. Chili mendorong mereka yang hadir untuk ‘bertindak hari ini. Sekarang! Dalam rangka untuk menetapkan batas [pada otonomi] ‘. [2]

Sebagaimana dijelaskan oleh pernyataan-pernyataan ini, mereka yang peduli pada implikasi moral dan hukum dari teknologi ini percaya bahwa tidak saja peraturan itu penting, tetapi juga harus dinegosiasikan dan diberlakukan sebelum persenjataan itu sendiri digunakan dalam pertempuran. Pertanyaannya, apakah mereka benar? Bahkan jika kita mengakui bahwa teknologi ini harus dibatasi, apakah benar-benar perlu untuk menangani masalah ini secara gertak/pre-emptively? Jika demikian, apakah regulasi awal jenis ini benar-benar dapat dicapai?

Pertanyaan tentang waktu

Dalam bukunya tahun 1980, The Social Control of Technology, David Collingridge mengeksplorasi kesulitan dalam menahan inovasi teknologi. Ia berpendapat, ada masalah mengikat ganda:

[U]paya untuk mengendalikan sebuah teknologi adalah hal sulit… karena selama tahap awal, saat dapat dikendalikan, tidak banyak yang bisa kita ketahui tentang konsekuensi sosial yang berbahaya untuk menjamin pengendalian pengembangannya; tetapi pada saat konsekuensi ini jelas, kontrol telah menjadi mahal dan lambat. [3]

Meskipun tidak diutarakan langsung oleh para peserta, Dilema Collingridge terus membayangi pertemuan GGE mengenai sistem senjata otonom baru-baru ini. Juru kampanye punya alasan bagus untuk percaya bahwa peraturan yang berarti akan lebih sulit tercapai, mungkin mustahil, bila sistem senjata otonom mengakar kuat. Jauh lebih baik, menurut mereka, untuk mengatasi masalah ini secara pre-emptif, sebelum kekuatan besar menginvestasikan lebih banyak waktu, keahlian, dan sumber daya keuangan untuk mengembangkan teknologi ini.

Namun, ada keterlibatan yang jelas lebih sedikit, dengan aspek kedua dari Dilema Collingridge, masalah informasi. Kerja yang luas telah dilakukan untuk menyoroti potensi risiko senjata autonomi. Meskipun demikian, kita masih agak jauh dari penilaian definitif tentang bahaya sebenarnya yang ditimbulkan oleh teknologi ini kepada warga sipil dan kombatan.

Sebagian orang membingkai perang otonom sebagai tantangan yang mendalam dan mungkin melekat pada standar moral dan hukum perang. Di sisi yang lebih ekstrem adalah mereka yang memperingatkan akan masa depan yang paling buruk, distopia à la terminator, di mana penilaian manusia, dan kemanusiaan itu sendiri, dimusnahkan dari perang.

Di ujung lain spektrum ini adalah mereka yang berdebat mendukung teknologi ini. Penggunaan senjata otonom, menurut mereka, bisa jadi benar-benar meningkatkan pelindungan warga sipil di medan tempur, baik dengan meningkatkan presisi keseluruhan serangan, dan dengan mengurangi kelemahan manusia yang lebih jelas dalam pertempuran, termasuk kecenderungan untuk kelebihan kekerasan.

Yang memperparah perpecahan ini adalah ambiguitas yang terus berlanjut mengenai sifat otonomi itu sendiri, dan khususnya, kurangnya konsensus mengenai tingkat otonomi yang diperlukan untuk menyebut suatu sistem senjata sebagai bermasalah.

Bagaimana kita menavigasi kebuntuan ini? Apakah kita mengatur perang otonom secara pre-emptif dan berisiko menciptakan kerangka panduan yang tidak tepat guna bila teknologi ini berevolusi ke arah yang tidak diantisipasi?[4] Atau apakah kita menunggu sampai penggerak pertama militer turun dan mendapatkan keuntungan dari sistem senjata otonom, konsekuensinya sangat mungkin berupa perlombaan senjata global?

Argumen di sini adalah bahwa dengan segala kekurangannya, peraturan dini — peraturan sebelum medan perang menggunakan senjata otonom — masih menawarkan kesempatan terbaik untuk mengontrol, dan jika perlu, melarang teknologi ini. Demi mencapai kemungkinkan keberhasilan tertinggi, bagaimanapun, itu harus menjadi jenis dini yang tepat.

Jendela Keberlangsungan Senjata Otonom

Larangan atas senjata otonom kemungkinan besar akan meraih dukungan yang dibutuhkan dari Negara-negara Pihak begitu pembuatan dan penggunaan teknologi dianggap akan segera terjadi. Selama ‘jendela viabilitas’ ini, momok proliferasi tersingkap — peningkatan pesat dalam permintaan dan pemerolehan senjata otonom — menjadi sumber daya yang dapat dieksploitasi, sesatu yang bisa dijadikan contoh oleh juru kampanye untuk menghasilkan desakan yang perlu dalam mengamankan dukungan terhadap peraturan pre-emptif. Peraturan seperti itu, bahkan jika gagal mendapat dukungan dari Amerika Serikat dan Rusia, akan jauh berjalan ke arah stigmatisasi penggunaan otonomi mematikan dalam perang.

Untuk mengenali potensi viabilitas medan perang untuk berfungsi sebagai katalis perubahan peraturan, kita bisa melihat perjanjian 1995 untuk melarang senjata laser yang membutakan; satu-satunya contoh dari larangan senjata pre-emptif yang berhasil dalam sejarah pengendalian senjata.

Selama hampir satu dekade menjelang kesepakatan ada upaya-upaya  untuk melarang teknologi ini, atas dasar potensi ketegangan dengan aturan terhadap penderitaan yang tidak perlu atau cedera berlebihan dalam perang. Namun upaya-upaya itu tidak berhasil, dengan Negara-negara menolak peraturan yang diusulkan atas dasar bahwa laser yang membutakan masuk dalam ranah ‘fiksi ilmiah’. [5]

Pada awal hingga pertengahan 1990-an, situasi telah berubah, dengan laser anti-personel yang membutakan maju ke titik di mana mereka sekarang sedang dipertimbangkan untuk dijual. Untuk alasan yang dapat dimengerti, perkembangan ini mengganggu mereka yang mencari larangan pre-emptif. Daripada menandakan kematiannya, bagaimanapun, kelangsungan hidup medan tempur tampaknya telah membantu upaya peraturan, ‘menghilangkan ketidakpedulian tertentu’ pada pihak Negara yang sampai sekarang menyimpulkan bahwa tantangan, jika pun ada, masih jauh di depan. [6]

Kampanye untuk melarang senjata laser yang membutakan, harus diakui, adalah analogi yang tidak sempurna atas upaya saat ini untuk mengatur perang otonom. Pertanyaan sah telah diajukan mengenai apakah kekerasan otonom dapat membedakan antara target yang sah dan tidak sah. Saran bahwa kekerasan yang sama ini merupakan penderitaan yang tidak perlu adalah penjualan yang lebih keras. Ada akibat kebutaan permanen yang membantu membedakan senjata yang mengeluarkannya. Sebaliknya, belum ada saran, setidaknya, bahwa senjata otonom secara signifikan akan berbeda dari senjata sejenis yang dioperasikan manusia terkait dengan jenis kerusakan fisik yang sebenarnya mereka singkirkan.

Contoh laser yang membutakan dapat memperkaya perdebatan yang sedang berlangsung tentang perang otonom. Namun yang terpenting, perdebatan dapat menjadi kaya bukan dengan perbandingan teknis yang tidak sesuai, melainkan dengan menyoroti pentingnya jendela viabilitas untuk proses regulasi.

Ke mana selanjutnya?

GGE selanjutnya akan bertemu pada 2020 untuk mempertimbangkan kerangka kerja normatif dan operasional untuk menangani masalah perang otonom. Sementara itu, juru kampanye dan ahli teknis harus terus bekerja sama untuk mengembangkan definisi otonomi yang lebih rinci, yang dapat mengidentifikasi dengan lebih baik teknologi spesifik mana yang tidak sesuai dengan aturan perang. Pemahaman lebih tentang apa yang disebut otonomi problematik menjadi tuntunan terbaik untuk tindakan di masa depan, tidak hanya dalam hal apa yang diatur tetapi juga kapan.

Kolaborasi antara para ahli etika, hukum, dan teknis harus diperluas untuk mencakup dimensi temporal masalah ini, dan khususnya, pertanyaan tentang viabilitas. Apa lintasan teknis senjata otonom yang mungkin mulai saat ini dan selanjutnya?[7] Akankah dukungan untuk larangan pre-emptif atas sistem senjata otonom mencerminkan kasus laser yang membutakan, dan menjadi paling intens ketika teknologi problematik dipertimbangkan untuk dijual? Atau alternatifnya, akankah antisipasi penggunaan medan perang menjadi katalis yang diperlukan? Kapan kedua ambang batas ini kemungkinan tercapai?

Jawaban definitif atas pertanyaan-pertanyaan ini hampir pasti akan terbukti sulit dipahami. Tetapi bahkan dengan sedikit mengklarifikasi pertanyaan-pertanyaan itu kita dapat mengurangi risiko bahwa senjata otonom akan tiba di, dan menyeberangi, ambang batas kelangsungan hidup sebelum regulator dapat campur tangan.

Argumen di sini bukan bahwa viabilitas medan perang adalah senjata pamungkas peraturan, yang pasti mencegah munculnya sistem senjata problematik. Fokus di sini adalah pada kesempatan. Mereka yang ingin membatasi atau melarang perang otonom kemungkinan akan memiliki kesempatan terbaik untuk melakukannya ketika teknologi versi siap tempur diantisipasi akan segera terjadi.

Kesegeraan akan memperjelas pentingnya masalah dan konsekuensi dari absennya tindakan. Ia akan mengukuhkan niat Negara yang telah berkomitmen pada sebuah larangan dan memotivasi Negara yang tidak, setidaknya sebagian, agar lebih aktif mendukung.

Benar bahwa beberapa negara kemungkinan akan mempertahankan oposisi mereka terhadap peraturan perang otonom terlepas dari urgensi yang dihasilkan untuk melakukan sebaliknya. Pada akhirnya, keuntungan militer teknologi ini mungkin cukup besar untuk membanjiri kapasitas kita untuk mencegah proliferasinya. Larangan atas senjata otonom juga dapat menjadi korban erosi terhadap konsensus pengendalian senjata internasional yang terus berlangsung, yang belakangan makin kuat akibat penghentian traktat INF oleh pemerintahan Trump.

Seperti banyak aspek perang lainnya, masa depan masalah ini tidak jelas. Yang jelas adalah bahwa ketika mengatur senjata militer, pengaturan waktu merupakan hal penting. Seberapa penting pada akhirnya hal itu bagi kasus spesifik dari peperangan otonom? Waktu yang akan membuktikan.

Footnotes

[1] The definition of ‘autonomy’ in weapons systems remains highly contested.
[2] Audio recordings of the August 20/21 session are available at https://conf.unog.ch/digitalrecordings/index.html?guid=public/C998D28F-ADCE-46DA-9303-FE47104B848E&position=40.
[3] David Collingridge, The Social Control of Technology (London: Pinter, 1980), p. 19.
[4] This framing would likely receive push-back from those advocating ‘human control’ based regulation. The very advantage of this framework is its technological agnosticism.
[5] Louise Doswald-Beck, “New Protocol on Blinding Laser Weapons,” International Committee of the Red Cross 36, no. 312 (1996), p. 273.
[6] Doswald-Beck, “Blinding Laser Weapons,” p. 284.
[7] SIPRI’s ‘Mapping Autonomy’ report offers a valuable overview of weapons systems currently under development. See https://www.sipri.org/sites/default/files/2017-11/siprireport_mapping_the_development_of_autonomy_in_weapon_systems_1117_1.pdf

Artikel ini merupakan terjemahan dari naskah asli Autonomous Weapons Systems: When is the Right Time to Regulate yang ditulis oleh Neil C. Renic.

Penafian: Postingan dan dikusi dalam artikel dari blog International Law and Policy ini sebaiknya jangan ditafsirkan sebagai posisi ICRC dengan cara apapun, dan konten blog juga tidak termasuk dalam kebijakan atau doktrin formal, kecuali disebutkan secara spesifik.