Paus Leo XIV Desak Negara Larang Senjata Otonom AI

Penggunaan kecerdasan artifisial (AI) dalam sistem persenjataan mematikan menjadi perhatian serius Paus Leo XIV. Ia meminta negara-negara mengambil tindakan nyata untuk mencegah keputusan yang menyangkut kehidupan manusia diserahkan sepenuhnya kepada mesin.

Dalam pidatonya pada Jumat (30/10/2026), Paus Leo XIV mendesak anggota Perserikatan Bangsa-Bangsa (PBB) mendorong pelarangan senjata otonom mematikan berbasis AI. Seruan tersebut, dilansir dari Detik iNET, berkaitan dengan pertemuan yang dijadwalkan berlangsung di Jenewa pada November mendatang.

Selain pembatasan penggunaan teknologi untuk persenjataan, ia mengusulkan pembentukan lembaga internasional yang bertugas mengawasi pengembangan serta penerapan AI. Menurutnya, pengawasan diperlukan agar keputusan penting tetap berada dalam kendali dan tanggung jawab manusia.

Gagasan tersebut berangkat dari pandangan bahwa perkembangan teknologi kecerdasan artifisial tidak berlangsung secara otomatis tanpa campur tangan manusia. Arah pemanfaatannya ditentukan oleh keputusan pihak-pihak yang menciptakan, mengembangkan, dan menggunakan teknologi tersebut.

Dalam pidatonya, Paus Leo XIV menjelaskan bahwa manusia memiliki kewenangan sekaligus tanggung jawab untuk menentukan batas penerapan AI.

"Masa depan kecerdasan artifisial tidak ditentukan sebelumnya. Sebagai teknologi yang dikembangkan oleh manusia, masa depannya bergantung pada pilihan yang kita buat. Karena itu, kita memiliki tanggung jawab untuk mengarahkan, mengubah, dan, jika diperlukan, menolak penerapannya," ujar Paus Leo XIV.

Ia juga mengajak masyarakat internasional mengubah sudut pandang ketika membicarakan kemampuan AI. Baginya, pembahasan mengenai teknologi ini seharusnya tidak berhenti pada kecanggihan atau hal-hal yang dapat dikerjakannya, tetapi turut mempertimbangkan tujuan penggunaannya.

"Jadi, pertanyaan yang menentukan bukan sekadar 'Apa yang bisa dilakukan AI?' melainkan 'Untuk tujuan apa AI seharusnya digunakan?'" kata Paus.

Penilaian tersebut berkaitan dengan penolakannya terhadap anggapan bahwa mesin mempunyai kedudukan setara dengan manusia. Paus Leo XIV memandang AI sebagai perangkat yang dikembangkan untuk membantu manusia, bukan pribadi yang mempunyai kesadaran maupun pengalaman hidup.

Pandangan itu sebelumnya juga dituangkan dalam ensiklik yang diterbitkannya pada Mei 2026. Dokumen tersebut menjadi deklarasi ideologis besar pertamanya mengenai sikap Gereja Katolik terhadap perkembangan kecerdasan artifisial.

Dalam penjelasan yang dikutipnya dari ensiklik tersebut, terdapat penegasan mengenai perbedaan mendasar antara kemampuan mesin dan pengalaman manusia.

"Kecerdasan artifisial yang disebut demikian tidak mengalami pengalaman, tidak memiliki tubuh, tidak merasakan kegembiraan atau rasa sakit, tidak berkembang melalui hubungan, dan tidak mengetahui dari dalam apa arti cinta, pekerjaan, persahabatan, atau tanggung jawab," demikian pernyataan yang dikutip Paus.

Menurut Paus Leo XIV, menyamakan kemampuan AI dengan kesadaran manusia dapat menimbulkan persoalan serius. Salah satu risikonya adalah tanggung jawab pihak yang mengembangkan atau menggunakan teknologi menjadi tidak jelas ketika muncul kerugian.

Ia memperingatkan bahwa pihak yang terdampak bisa kesulitan memperoleh pertanggungjawaban apabila mesin diperlakukan seolah-olah merupakan entitas yang mempunyai pengalaman sadar.

"Memperlakukan AI seolah-olah memiliki pengalaman sadar berisiko mengaburkan tanggung jawab manusia dan membiarkan mereka yang mengalami kerugian harus berhadapan dengan entitas tanpa wajah," tuturnya.

Keputusan penting harus tetap berada di tangan manusia

Perhatian Paus Leo XIV secara khusus tertuju pada penggunaan AI untuk menentukan keputusan yang berhubungan dengan kehidupan, kebebasan, serta pengerahan kekuatan. Menurutnya, bidang-bidang tersebut tidak semestinya diserahkan begitu saja kepada sistem otomatis.

Beberapa penerapan yang disorot mencakup penyusunan daftar target, pengelolaan basis data pengawasan perbatasan, hingga pengoperasian senjata otonom. Penggunaan AI dalam bidang tersebut memperlihatkan pentingnya batas kewenangan teknologi dalam mengambil keputusan.

Karena itu, pengembangan kecerdasan artifisial perlu diarahkan untuk mendukung kepentingan bersama. Tanggung jawab tersebut tidak hanya berkaitan dengan pihak yang menciptakan teknologi, tetapi juga membutuhkan koordinasi antarnegara.

Paus Leo XIV menilai pengawasan internasional harus memiliki dasar yang jelas agar prinsip penggunaan AI dapat diterapkan secara nyata. Keberadaan lembaga pengawas dinilai penting untuk memastikan penerapan teknologi tidak terlepas dari pertanggungjawaban manusia.

Ia menekankan perlunya organisasi internasional yang mempunyai kewenangan dan kemampuan melindungi kepentingan bersama dalam skala global.

"Apa yang saat ini kita butuhkan adalah lembaga-lembaga yang mampu menerapkan prinsip-prinsip ini, khususnya lembaga internasional yang efektif dan dapat melindungi kepentingan bersama secara global," kata Paus Leo XIV.

Selain pembentukan lembaga pengawas, terdapat tiga kebutuhan utama yang disorot, yakni standar bersama, pengawasan independen, dan mekanisme pertanggungjawaban yang transparan. Ketiganya diperlukan untuk mengawal proses pengembangan hingga penggunaan AI.

Melalui mekanisme tersebut, keputusan terkait kecerdasan artifisial diharapkan dapat ditinjau dan dipersoalkan apabila ditemukan persoalan. Sistem pertanggungjawaban juga harus memungkinkan adanya pemulihan yang sesuai ketika penerapan teknologi menimbulkan kerugian.

"Hal ini membutuhkan standar bersama, pengawasan independen, dan mekanisme pertanggungjawaban yang jelas, sehingga keputusan mengenai pengembangan dan penggunaan AI dapat diperiksa, ditentang jika diperlukan, serta disertai dengan pemulihan yang sesuai atas segala kerugian yang ditimbulkan," ucapnya menambahkan.