Het gaat niet om de bots. Niet echt.
Paus Leo XIV liet deze maandag zijn eerste encycliek vallen. Hij noemde het Magnifica Humanitas. Op papier klinkt het als een verhandeling over kunstmatige intelligentie. Het kadert zich rond het beschermen van de menselijke persoon in dit nieuwe digitale tijdperk.
Kijk toch eens dichterbij. De haak is technisch, maar het doelwit is ouder. Veel ouder. Het gaat over ongelijkheid. Oorlog. Het langzame verval van de democratie. De manier waarop de macht zich blijft opstapelen in handen die zich niets aantrekken van de rest van de mensheid.
Elite-controle
Het document is 200 pagina’s lang. Leo heeft het ook niet alleen geschreven. Hij presenteerde het samen met Chris Olah van Anthropic. Het argument is bot. Een kleine groep die technologie bouwt en beheert, kan het publiek niet dienen. Dat zou nooit kunnen.
De paus zet het duidelijk in de tekst. Wanneer de macht zich concentreert bij enkelen, wordt het ondoorzichtig. Het publieke toezicht sterft. De ontwikkeling raakt verstoord.
Het creëert afhankelijkheid. Uitsluiting. Manipulatie.
Elke grote technologische verschuiving versterkt degenen die al geld hebben. Degenen die de gegevens bewaren. Leo wijst erop dat deze elites niet alleen maar macht hebben. Ze gebruiken het. Ze bepalen hoe we informatie consumeren. Ze stimuleren democratische processen. Zij sturen de economie aan zodat zij er zelf voordeel uit halen.
“Zoals bij elke grote technologische verschuiving zal AI de macht vergroten van degenen die al over hulpbronnen beschikken.”
Dit daalt slechts enkele dagen nadat Trump pauzeerde bij het ondertekenen van zijn eigen AI-uitvoerend bevel. Dat bevel zou de overheid in staat hebben gesteld nieuwe modellen vóór de lancering te controleren. Volgens berichten heeft durfkapitaalinvesteerder David Sachs hem eruit gehaald. Voormalig AI-tsaar. Huidige winstzoeker. Hetzelfde patroon.
Leo wil toezicht. Maar niet het zakelijke soort. Hij wil dat de getroffen gemeenschappen in de kamer zijn.
Hij roept ook op tot een einde aan de wapenwedloop. Stop met het najagen van grotere algoritmen en enorme datasets voor geopolitieke dominantie. Het is hoe dan ook een leugen. Technische macht betekent niet dat je het recht hebt om te regeren. Ontwapen de veronderstelling.
Oude problemen, nieuwe schermen
Waarom zijn wij verrast?
We hebben deze film gezien. Leo XIII schreef Rerum Novarum in 1891. De industriële revolutie had hetzelfde probleem. Geconcentreerde kracht die de kleine man verplettert.
Je hoeft niet eens zo ver terug te graven.
Weet je nog toen Elon Musk Twitter kocht? Weet je nog hoe hij het podium hanteerde tijdens de verkiezingen? Denk eens aan de honderden miljoenen technische bazen die in Super PAC’s pompen. Ze bestrijden AI-regulering met chequeboekdiplomatie. Deze patronen inspireerden niet alleen Leo’s schrijven. Zij zijn het schrift.
De technologie-industrie verhoogt de inzet. Maar de spelers blijven dezelfde.
De waarheid is te koop
Paolo Carozza snapt het. Hij is bij de Notre Dame Law. Hij zit in de Meta Oversight Board. Hij vertelde TechCrunch wat iedereen fluistert. Desinformatie door AI tast de waarheid aan.
Deepfakes brengen ons niet alleen in verwarring. Ze doorbreken de basis voor de politieke realiteit.
Het verzamelen van gegevens gaat dieper. Het tast de cognitieve vrijheid aan.
“AI-gedreven desinformatie tast ons vermogen aan om de waarheid te herkennen… wat fundamentele uitdagingen voor de cognitieve vrijheid met zich meebrengt.”
We worden gemanipuleerd. Door algoritmen die eigendom zijn van mensen die ons niet nodig hebben. De paus zei het zojuist hardop. De rest is alleen maar lawaai.
