Речь здесь не о ботах. По крайней мере, не совсем.
В этот понедельник папа Лев XIV выпустил свою первую энциклику. Он назвал её Magnifica Humanitas («Величественное человеческое достоинство»). На бумаге это звучит как трактат об искусственном интеллекте, сформулированный вокруг идеи защиты личности человека в новую цифровую эру.
Но если присмотреться внимательнее, станет ясно: технология — лишь прикрытие, а цель — гораздо древнее. Речь идет о неравенстве. О войне. О медленном разложении демократии. О том, как власть продолжает аккумулироваться в руках тех, кому совершенно безразлична судьба остального человечества.
Контроль элит
Документ состоит из 200 страниц, и Лев написал его не в одиночку. Презентация прошла совместно с Крисом Олахом из Anthropic. Аргументация предельно проста: малая группа, создающая и управляющая технологиями, не может служить общественным интересам. Она никогда не могла этого делать.
Папа излагает это ясно и прямо. Когда власть концентрируется у немногих, она становится непрозрачной. Публичный контроль умирает, а развитие искажается.
Это порождает зависимость, изоляцию и манипуляцию.
Каждый крупный технологический сдвиг усиливает позиции тех, кто уже обладает капиталом и владеет данными. Лев указывает на то, что эти элиты не просто обладают властью — они ею пользуются. Они формируют то, как мы потребляем информацию, влияют на демократические процессы и направляют экономику в свою пользу.
«Как и при любом крупном технологическом сдвиге, ИИ имеет тенденцию усиливать власть тех, кто уже обладает ресурсами.»
Этот документ опубликован всего через несколько дней после того, как Трамп приостановил подписание своего собственного исполнительного указа об ИИ. Этот указ предполагал проверку новых моделей правительством перед их запуском. По слухам, венчурный инвестор Дэвид Сакс убедил его отказаться от этой идеи. Бывший «царь» ИИ, нынешний погоня за прибылью. Та же самая схема.
Лев требует надзора. Но не корпоративного рода. Он хочет, чтобы в комнате принятия решений присутствовали затрагиваемые этими процессами сообщества.
Он также призывает к прекращению гонки вооружений. Перестать гнаться за все более мощными алгоритмами и гигантскими наборами данных ради геополитического доминирования. Это все равно ложь. Техническая мощь не дает права править другими. Нужно отказаться от такой установки.
Старые проблемы, новые экраны
Почему мы удивлены?
Мы видели этот фильм. Лев XIII написал Rerum Novarum еще в 1891 году. Промышленная революция породила те же проблемы: концентрирующаяся власть давит на «маленького человека».
Давать назад не нужно даже так далеко.
Помните, как Илон Маск выкупил Twitter? Помните, как он использовал эту платформу во время выборов? Подумайте о сотнях миллионов долларов, которые технологические боссы вливают в супер-PAC-фонды. Они борются с регулированием ИИ с помощью «дипломатии чековой книжки». Эти паттерны поведения не просто вдохновили Лева на написание документа. Они являются содержанием документа.
Индустрия технологий повышает ставки. Но игроки остаются прежними.
Правда на продажу
Паоло Карозза понимает суть дела. Он работает в юридической школе университета Нотр-Дам и входит в Совет по надзору Meta. Он сказал в TechCrunch то, что все шепчут: дезинформация от ИИ разрушает саму основу истины.
Дипфейки не просто запутывают нас. Они ломают базовые ориентиры политической реальности.
Сбор данных уходит еще глубже. Он атакует когнитивную свободу.
«Дезинформация на базе ИИ разъедает нашу способность распознавать истину… создавая фундаментальные угрозы когнитивной свободе.»
Нами манипулируют. Алгоритмами, принадлежащими людям, которым мы не нужны. Папа просто произнес это вслух. Все остальное — лишь шум.
