Dengan secara terbuka membahas perlunya melindungi manusia di era AI, paus Amerika pertama dalam sejarah itu berpotensi menempatkan dirinya pada jalur benturan dengan Presiden Amerika Serikat Donald Trump, yang mendukung deregulasi teknologi yang berkembang pesat tersebut demi mempertahankan keunggulan kompetitif melawan China.
Paus berusia 70 tahun itu ikut masuk ke dalam perdebatan sengit mengenai sejauh mana model AI harus dibatasi di tengah kekhawatiran atas potensi teknologi tersebut untuk mengacaukan sistem perbankan, memilih target serangan militer, dan pada akhirnya menggantikan manusia dalam berbagai pengambilan keputusan.
Peluncuran dokumen berjudul Magnifica humanitas, yang berarti “kemanusiaan yang agung” dalam bahasa Latin, menandai tindakan paling penting sang paus sejak menjadi pemimpin 1,4 miliar umat Katolik dunia setahun lalu. Ensiklik, sebagaimana surat-surat ini dikenal, merupakan cara paus memberikan panduan moral mengenai tantangan terbesar pada zamannya, termasuk isu sensitif seperti perubahan iklim dan migrasi.
Dengan latar belakang sebagai ahli matematika, Leo juga secara khusus memperingatkan bahaya penggunaan komputasi dalam peperangan dan hilangnya pertimbangan moral, dengan mengatakan bahwa “tidak ada algoritma yang dapat membuat perang dapat diterima secara moral.”
“AI tidak menghilangkan sifat tidak manusiawi yang melekat pada konflik, bahkan justru dapat mempercepat konflik dan membuatnya semakin impersonal,” kata paus. Ia memperingatkan kemungkinan bahwa sebagian pihak “mungkin menganggap konflik bersenjata sebagai cara efektif untuk mengalihkan perhatian dari masalah domestik dan sebagai alat sinis untuk mengelola kesulitan.”
Komentarnya muncul ketika peluncuran Mythos, alat kecerdasan buatan buatan Anthropic yang dapat mengidentifikasi celah tak dikenal dalam sistem TI, memicu kecemasan global dalam beberapa bulan terakhir.
Dalam memperingatkan risiko AI yang tidak diatur, menarik bahwa Vatican mengundang salah satu pendiri Anthropic, Christopher Olah, seorang ahli machine learning. Pembuat chatbot populer Claude itu telah berselisih dengan pemerintahan Trump terkait penggunaan teknologinya untuk perang dan pengawasan.
“Kita membutuhkan lebih banyak pihak di dunia — komunitas agama, masyarakat sipil, akademisi, pemerintah — untuk melakukan seperti yang dilakukan Yang Mulia Paus: menganggap ini serius, mencermatinya dengan saksama, dan mengarahkan perkembangan ke arah yang lebih baik,” kata Olah dalam pidato setelah presentasi paus. “Kita membutuhkan para pengkritik yang memahami masalah untuk memberi tahu laboratorium AI ketika kami gagal. Kita membutuhkan suara-suara moral yang tidak bisa dibelokkan oleh insentif.”
Wakil Presiden JD Vance, seorang mualaf Katolik yang dekat dengan miliarder Silicon Valley Peter Thiel — investor awal di OpenAI — mengisyaratkan adanya ketegangan yang mulai muncul. Baru-baru ini, Leo dan Trump berselisih mengenai penolakan paus terhadap perang di Iran.
“Saya pikir ketika pemimpin denominasi Kristen terbesar di dunia berbicara mengenai isu seperti itu, tentu hal itu akan memiliki pengaruh, dan saya yakin akan ada banyak pandangan yang berharga,” kata Vance dalam konferensi pers pada 19 Mei. “Sebagian mungkin akan saya setujui, sebagian lagi mungkin tidak.”
Thiel berada di Rome awal tahun ini untuk menghadiri serangkaian kuliah tertutup yang banyak diperbincangkan mengenai antikristus. Sebagai tanggapan, penasihat Vatikan Pastor Paolo Benanti menyerang pandangan libertarian Thiel dalam sebuah opini yang menyebutnya sebagai “tindakan bidah yang terus-menerus.”
Gereja Katolik Roma semakin vokal menyuarakan kekhawatirannya terhadap AI, dengan menegaskan bahwa alat yang sangat kuat tersebut memerlukan aturan untuk melindungi martabat manusia dan kepentingan bersama.
Bagi Paus Leo XIV, inspirasi utamanya jelas berasal dari Pope Leo XIII, yang memimpin Gereja selama revolusi industri pertama dan menulis ensiklik Rerum Novarum. Paus saat ini tidak hanya memilih nama Leo untuk menghormati pendahulunya pada abad ke-19 tersebut, tetapi juga menarik garis langsung antara disrupsi yang ditimbulkan oleh produksi massal berbasis mesin terhadap para pekerja kala itu dengan dampak AI terhadap pekerja saat ini.
Sang paus “ingin memastikan bahwa apa yang terjadi dengan AI tidak hanya didasarkan pada ekonomi, tidak hanya pada seberapa kaya sekelompok miliarder bisa menjadi, dan bahwa ada pagar pengaman dalam penggunaannya,” kata Pastor Thomas Reese, seorang analis senior dan cendekiawan Katolik, dalam sebuah wawancara.
Mulai dari laporan chatbot yang mengarahkan pengguna pada bunuh diri hingga prediksi apokaliptik tentang pengangguran massal, topik AI menjadi isu yang memecah belah dan emosional. Meski demikian, gaya Leo lebih kalem dibandingkan Pope Francis, yang menyampaikan pidato bersejarah kepada para pemimpin Group of Seven pada 2024 dengan memperingatkan mereka agar tidak kehilangan kendali atas AI.
“Hari ini, di antara berbagai hal yang diperuntukkan bagi semua orang secara universal, kita juga harus memasukkan bentuk-bentuk baru kepemilikan, seperti paten, algoritma, platform digital, infrastruktur teknologi, dan data,” tulis paus tersebut.
Bahaya yang ia maksud adalah ketika teknologi “mulai menentukan apa yang penting dan apa yang dapat disingkirkan,” sehingga mereduksi “manusia menjadi sekadar roda gigi dalam sistem yang didorong menuju efisiensi yang semakin besar.”
(bbn)
