Pope Leo XIV baru saja merilis enciklikalnya yang pertama, Magnifica Humanitas, yang membahas tentang "safeguarding the human person in the time of artificial intelligence".
Enciklikal ini sebenarnya tidak hanya tentang AI, tapi lebih tentang bagaimana teknologi yang dikembangkan dan dikuasai oleh segelintir orang tidak dapat melayani kebaikan bersama.
Pope Leo XIV menekankan bahwa ketika kekuasaan terkonsentrasi di tangan beberapa orang, maka itu cenderung menjadi tidak transparan dan menghindari pengawasan publik, sehingga meningkatkan risiko bentuk-bentuk distorsi yang dapat menimbulkan ketergantungan, eksklusi, manipulasi, dan ketidaksetaraan.
Ia juga menyoroti bahwa AI cenderung memperkuat kekuasaan mereka yang sudah memiliki sumber daya ekonomi, keahlian, dan akses ke data, sehingga dapat membentuk pola konsumsi dan informasi, memengaruhi proses demokratis, dan mengarahkan dinamika ekonomi untuk keuntungan mereka sendiri.
Pope Leo XIV memanggil untuk AI yang dipandu oleh "kriteria yang jelas dan pengawasan yang efektif" yang berakar pada partisipasi dari komunitas yang akan terkena dampaknya.
Lebih lanjut, ia menyerukan untuk mengakhiri AI arms race — dorongan untuk membangun algoritma yang lebih kuat dan dataset yang lebih besar yang diyakini dapat "mengamankan dominasi geopolitik atau komersial".
Pope Leo XIV menyimpulkan bahwa kekuasaan dan kemampuan AI yang luar biasa hari ini meningkatkan taruhan secara besar-besaran, dan bahwa kita perlu mengembangkan clear criteria and effective oversight untuk memastikan bahwa AI digunakan untuk kebaikan bersama.
