Мова тут не про боти. Принаймні не зовсім.
Цього понеділка папа Лев XIV випустив свою першу енцикліку. Він назвав її “Magnifica Humanitas” (“Велика людська гідність”). На папері це звучить як трактат про штучний інтелект, сформульований навколо ідеї захисту людини в нову цифрову еру.
Але якщо придивитися уважніше, стане ясно: технологія — лише прикриття, а мета — набагато давніша. Йдеться про нерівність. Про війну. Про повільне розкладання демократії. Про те, як влада продовжує акумулюватися в руках тих, кому байдужа доля решти людства.
Контроль еліт
Документ складається із 200 сторінок, і Лев написав його не поодинці. Презентація пройшла спільно з Крісом Олахом із Anthropic. Аргументація гранично проста: мала група, що створює та керує технологіями, не може служити суспільним інтересам. Вона ніколи не могла цього робити.
Папа викладає це ясно і прямо. Коли влада концентрується в небагатьох, вона стає непрозорою. Громадський контроль вмирає, а розвиток спотворюється.
Це породжує залежність, ізоляцію та маніпуляцію.
Кожне велике технологічне зрушення посилює позиції тих, хто вже володіє капіталом і володіє даними. Лев вказує на те, що ці еліти не просто мають владу — вони нею користуються. Вони формують те, як ми споживаємо інформацію, впливають на демократичні процеси та спрямовують економіку на свою користь.
«Як і при будь-якому великому технологічному зрушенні, ІІ має тенденцію посилювати владу тих, хто вже має ресурси.»
Цей документ опубліковано лише за кілька днів після того, як Трамп призупинив підписання свого власного виконавчого указу про ІІ. Цей указ передбачав перевірку нових моделей урядом перед запуском. За чутками, венчурний інвестор Девід Сакс переконав його відмовитись від цієї ідеї. Колишній «цар» ІІ, нинішній переслідування прибутку. Та сама схема.
Лев потребує нагляду. Але не корпоративного роду. Він хоче, щоб у кімнаті прийняття рішень були присутні спільні процеси, що зачіпаються цими процесами.
Він також закликає до припинення перегонів озброєнь. Перестати гнатися за все більш потужними алгоритмами та гігантськими наборами даних задля геополітичного домінування. Це все одно брехня. Технічна міць не дає права правити іншими. Потрібно відмовитись від такої установки.
Старі проблеми, нові екрани
Чому ми здивовані?
Ми бачили цей фільм. Лев XIII написав Rerum Novarum ще в 1891 році. Промислова революція породила ті ж проблеми: влада, що концентрується, тисне на «маленьку людину».
Давати назад не треба навіть так далеко.
Пам’ятаєте, як Ілон Маск викупив Twitter? Помнете, як він використовував цю платформу під час виборів? Подумайте про сотні мільйонів доларів, які технологічні боси вливають у супер-PAC-фонди. Вони борються із регулюванням ІІ за допомогою «дипломатії чекової книжки». Ці патерни поведінки не просто надихнули Льова написання документа. Вони є змістом документа.
Промисловість технологій підвищує ставки. Але гравці залишаються незмінними.
Правда на продаж
Паоло Карозза розуміє суть справи. Він працює в юридичній школі університету Нотр-Дам і входить до Ради з нагляду Meta. Він сказав у TechCrunch те, що всі шепочуть: дезінформація від ІІ руйнує саму основу істини.
Дипфейки не просто заплутують нас. Вони ламають базові орієнтири політичної дійсності.
Збір даних йде ще глибше. Він атакує когнітивну свободу.
«Дезінформація на базі ІІ роз’їдає нашу здатність розпізнавати істину… створюючи фундаментальні загрози когнітивній свободі.»
Нами маніпулюють. Алгоритмами, які належать людям, яким ми не потрібні. Папа просто вимовив це вголос. Решта — лише шум.
