Ini bukan tentang bot. Tidak terlalu.
Paus Leo XIV mengeluarkan ensiklik pertamanya pada hari Senin ini. Dia memberi judul Magnifica Humanitas. Di atas kertas, ini terdengar seperti sebuah risalah tentang kecerdasan buatan. Hal ini bertujuan untuk melindungi pribadi manusia di era digital baru ini.
Namun lihatlah lebih dekat. Pengaitnya adalah teknologi tetapi targetnya lebih tua. Jauh lebih tua. Ini tentang kesenjangan. Perang. Lambatnya pembusukan demokrasi. Bagaimana kekuasaan terus menumpuk di tangan-tangan yang tidak peduli dengan umat manusia lainnya.
Kontrol Elit
Dokumen itu panjangnya 200 halaman. Leo juga tidak menulisnya sendiri. Dia mempresentasikannya dengan Chris Olah dari Anthropic. Argumennya blak-blakan. Kelompok kecil yang membangun dan mengatur teknologi tidak dapat melayani masyarakat. Itu tidak akan pernah bisa.
Paus Fransiskus menyatakan hal ini dengan jelas dalam teksnya. Ketika kekuasaan terkonsentrasi pada segelintir orang, maka kekuasaan menjadi buram. Pengawasan publik mati. Pembangunan menjadi terdistorsi.
Ini menciptakan ketergantungan. Pengecualian. Manipulasi.
Setiap perubahan teknologi besar-besaran memperkuat mereka yang sudah punya uang. Mereka yang memegang data. Leo menunjukkan bahwa para elit ini tidak hanya memiliki kekuasaan. Mereka menggunakannya. Mereka membentuk cara kita mengonsumsi informasi. Mereka mendorong proses demokrasi. Mereka mengarahkan perekonomian untuk menguntungkan diri mereka sendiri.
“Seperti halnya setiap perubahan teknologi besar, AI cenderung memperkuat kekuatan mereka yang sudah memiliki sumber daya.”
Angka ini turun hanya beberapa hari setelah Trump berhenti sejenak untuk menandatangani perintah eksekutif AI miliknya. Perintah tersebut akan memungkinkan pemerintah memeriksa model-model baru sebelum diluncurkan. Laporan mengatakan investor VC David Sachs membujuknya untuk tidak melakukannya. Mantan Tsar AI. Pencari keuntungan saat ini. Pola yang sama.
Leo ingin pengawasan. Tapi bukan tipe korporat. Dia ingin komunitas yang terkena dampak ikut serta.
Dia juga menyerukan diakhirinya perlombaan senjata. Berhentilah mengejar algoritma yang lebih besar dan kumpulan data yang besar demi dominasi geopolitik. Lagipula itu bohong. Kekuasaan teknis tidak berarti Anda berhak memerintah. Hilangkan asumsi tersebut.
Masalah Lama, Layar Baru
Mengapa kita terkejut?
Kami telah melihat film ini. Leo XIII menulis Rerum Novarum pada tahun 1891. Revolusi Industri mempunyai masalah yang sama. Kekuatan terkonsentrasi menghancurkan si kecil.
Anda bahkan tidak perlu menggali jauh ke belakang.
Ingat ketika Elon Musk membeli Twitter? Ingat bagaimana dia menggunakan platform tersebut selama pemilu? Bayangkan ratusan juta bos teknologi yang bekerja di Super PAC. Mereka melawan regulasi AI dengan diplomasi buku cek. Pola-pola ini tidak hanya menginspirasi tulisan Leo. Mereka adalah tulisannya.
Industri teknologi meningkatkan risikonya. Namun para pemainnya tetap sama.
Kebenaran Dijual
Paolo Carozza mengerti. Dia di Notre Dame Law. Dia duduk di Dewan Pengawas Meta. Dia memberi tahu TechCrunch apa yang dibisikkan semua orang. Misinformasi AI merusak kebenaran.
Deepfake tidak hanya membingungkan kita. Mereka mematahkan landasan realitas politik.
Pengambilan data dilakukan lebih dalam. Ini menyerang kebebasan kognitif.
“Informasi yang salah yang disebabkan oleh AI merusak kapasitas kita untuk mengenali kebenaran… menimbulkan tantangan mendasar terhadap kebebasan kognitif.”
Kami sedang dimanipulasi. Oleh algoritma yang dimiliki oleh orang yang tidak membutuhkan kita. Paus baru saja mengatakannya dengan lantang. Selebihnya hanya kebisingan.
