Nemluvíme zde o robotech. Alespoň ne úplně.
Toto pondělí vydal svou první encykliku papež Lev XIV. Nazval to Magnifica Humanitas (“Majestátní lidská důstojnost”). Na papíře to zní jako pojednání o umělé inteligenci, zarámované kolem myšlenky ochrany vlastní identity v novém digitálním věku.
Ale když se podíváte blíže, je jasné: technologie je jen kryt a cíl je mnohem starší. Je to o nerovnosti. O válce. O pomalém rozkladu demokracie. O tom, jak se moc dál hromadí v rukou těch, kterým je osud zbytku lidstva naprosto lhostejný.
Elitní ovládání
Dokument má 200 stran a Lev ho nenapsal sám. Prezentaci spolupořádal Chris Olah z Anthropic. Zdůvodnění je extrémně jednoduché: malá skupina, která vytváří a spravuje technologie, nemůže sloužit veřejnému zájmu. Tohle by nikdy nedokázala.
Papež to říká jasně a přímo. Když se síla soustředí do několika, stává se neprůhlednou. Veřejná kontrola umírá a vývoj je deformován.
To plodí závislost, izolaci a manipulaci.
Každý větší technologický posun posiluje ruku těch, kteří již mají kapitál a data. Lev poukazuje na to, že tyto elity nejenže mají moc, ale také ji využívají. Formují způsob, jakým konzumujeme informace, ovlivňují demokratické procesy a řídí ekonomiku ve svůj prospěch.
“Jako u každého velkého technologického posunu má AI tendenci zvyšovat sílu těch, kteří již mají zdroje.”
Dokument přichází jen pár dní poté, co Trump pozastavil podepisování vlastního výkonného nařízení o AI. Toto nařízení vyžadovalo, aby vláda testovala nové modely před jejich uvedením na trh. Říká se, že ho rizikový kapitalista David Sachs přesvědčil, aby se této myšlenky vzdal. Bývalý „car“ AI, současný je honba za ziskem. Stejné schéma.
Leo vyžaduje dohled. Ale ne firemního druhu. Chce, aby komunity dotčené těmito procesy byly přítomny v rozhodovací místnosti.
Vyzývá také k ukončení závodů ve zbrojení. Přestaňte pronásledovat stále výkonnější algoritmy a obří soubory dat v zájmu geopolitické dominance. Pořád je to lež. Technická moc nedává právo vládnout ostatním. Tento postoj je třeba opustit.
Staré problémy, nové obrazovky
Proč jsme překvapeni?
Viděli jsme tento film. Lev XIII. napsal Rerum Novarum již v roce 1891. Průmyslová revoluce vytvořila stejné problémy: koncentrovaná moc vyvíjí tlak na „malého člověka“.
Není třeba se vracet ani tak daleko.
Pamatujete si, když Elon Musk koupil Twitter? Pamatujete si, jak tuto platformu používal při volbách? Přemýšlejte o stovkách milionů dolarů, které tech šéfové nalévají do super PAC. Bojují s regulací AI pomocí „diplomacie šekové knížky“. Tyto vzorce chování Lva k napsání dokumentu nejen inspirovaly. Jsou obsahem dokumentu.
Technologický průmysl nabírá na síle. Hráči ale zůstávají stejní.
Pravda na prodej
Paolo Carozza získává bod. Je spojen s právnickou fakultou University of Notre Dame a působí v Meta Oversight Board. V TechCrunch řekl to, co si všichni šeptají: dezinformace umělé inteligence ničí samotný základ pravdy.
Deepfakes nás nepletou jen tak. Porušují základní mantinely politické reality.
Sběr dat jde ještě hlouběji. Útočí na kognitivní svobodu.
“Dezinformace poháněné umělou inteligencí narušují naši schopnost rozlišovat pravdu… vytvářejí zásadní hrozby pro kognitivní svobodu.”
Jsme manipulováni. Algoritmy vlastněné lidmi, kteří nás nepotřebují. Táta to jen řekl nahlas. Všechno ostatní je jen hluk.
