Seruan Paus Mengajak Lepaskan Senjata AI Melindungi Manusia dari Bahayanya

Paus XIV mengeluarkan ensiklik pertamanya berjudul 《Magnifica humanitas》 (Kemanusiaan yang Mulia), yang membahas tentang bagaimana melindungi martabat manusia di era kecerdasan buatan (AI). Dia menyerukan untuk "melucuti" senjata kecerdasan buatan, melindungi manusia dari bahaya yang ditimbulkannya, dan dari penguasaan oleh AI. Dia berpendapat bahwa kecerdasan buatan harus menjadi lebih "berperikemanusiaan", teknologi ini perlu melepaskan monopoli kendali, dan tidak lagi digunakan untuk meraih keuntungan geopolitik atau komersial.

Paus menunjukkan bahwa melucuti senjata berarti menolak asumsi kekuatan teknologi secara otomatis memberi hak kekuasaan, ini bukan berarti menolak teknologi, melainkan mencegah teknologi menguasai manusia.

Paus selanjutnya mengatakan bahwa kecerdasan buatan tidak dapat menghilangkan kekejaman inheren dalam konflik, malah akan mempercepat pecahnya konflik, membuatnya menjadi lebih kejam dan tidak berperasaan. Dia memperingatkan bahwa beberapa orang mungkin melihat konflik bersenjata sebagai cara yang efektif untuk mengalihkan perhatian dari masalah domestik, serta sebagai alat untuk menghadapi kesulitan dengan sikap apatis.

Paus mengingatkan bahwa penggunaan teknologi komputer dalam perang dapat menimbulkan bahaya, dan dapat menyebabkan orang mengabaikan moralitas. Dia menegaskan bahwa tidak ada algoritma yang dapat membuat perang secara moral dapat diterima.

Ensiklik paus ini adalah panduan moral yang diberikan oleh paus terhadap tantangan terbesar yang dihadapi zaman ini.

Dalam pidatonya berikutnya, paus menyatakan perlunya seluruh dunia, termasuk komunitas agama, masyarakat sipil, akademisi, dan pemerintah, untuk memandang serius masalah ini, meninjau secara cermat, dan mendorong perkembangan ke arah yang lebih baik. Dia juga berharap agar lebih banyak pengkritik yang berpengalaman menunjukkan kekurangan di laboratorium, dan bahwa suara moral harus didengar, tanpa campur tangan dari kelompok kepentingan mana pun.