Сегодня Meta представила новый ИИ-инструмент. Он создает изображения, выглядящие вполне реалистично. Если ваш аккаунт в Instagram открыт, вы по сути добровольно отдаете свое лицо в распоряжение других. Исправьте эту ситуацию прямо сейчас.
Модель называется Muse Image. Она входит в семейство инструментов Meta под названием Muse Spark, разработанных в их лабораториях, работающих над сверхинтеллектом. В блоге компании заявлено, что система умеет обрабатывать сложные запросы, создавать композитные фотографии и редактировать существующие изображения. Попробовать ее можно прямо сейчас в приложении Meta AI, в Instagram или WhatsApp. В планах компании — интеграция инструмента в Facebook, Messenger, а в перспективе и для рекламодателей.
Марк Цукерберг продемонстрировал новые возможности на своей ленте во вторник. Он опубликовал около тридцати новых эффектов ИИ для историй в Instagram. Появились клоны Цукерберга. 360-градусный вид с участием ИИ-аватара Александра Вэна. Экспозиционный портрет главного технического директора Эндрю Бозворта.
Это не новая технология. В прошлом году OpenAI экспериментировала с чем-то подобным в Sora, помещая пользователей в видео-фоны. Пользователям это не понравилось. Знаменитости возмутились. Создание дипфейков стало слишком простым. Инструмент Meta создает точно ту же проблему. Те же риски, другая компания.
Забыть на минуту о потоке низкокачественного ИИ-контента. Игнорировать тот факт, что каждый раз, загружая фото, вы тренируете их системы. Посмотрите на настройки.
Если вам есть восемнадцать лет, и ваш аккаунт открыт, любой может «отметить» вас в запросе. Любой сможет сгенерировать гиперреалистичные изображения вашего лица. По сути, дипфейки. Достаточно лишь ввести ваше имя.
Как это блокировать
Я проверил это на практике. Хотел понять, насколько это просто.
Я взял никнейм коллеги из CNET, Абрара Аль-Хити. У нее открытый аккаунт. Я ввел запрос, указав ее имя пользователя. Спустя минуту она превратилась в пирата. Детально. Убедительно. Пугающе легко. Я попытался сделать то же самое с моим закрытым аккаунтом. Meta AI не сработала. Запрос не выполнен. Похоже, конфиденциальность имеет значение.
Так как же защититься?
Вам нужно отключить тумблер «Разрешить людям повторно использовать ваш контент…».
Зайдите в настройки Instagram. Перейдите в раздел «Обмен и повторное использование». Отключите опцию «Разрешить другим людям повторно использовать ваш контент с этого аккаунта и в функциях ИИ от Meta». Вы можете настроить это отдельно для постов и рилс.
Если ваш аккаунт закрыт? Вы в безопасности по умолчанию. Никакого ремикса. Никакой генерации изображений на основе ваших фото. Моя коллега выключила эту опцию сразу после нашего теста.
Но есть еще один уровень защиты. Когда вы впервые разрешаете приложению распознавать вас в Meta AI, система запрашивает разрешение. Может потребовать загрузить селфи или несколько фотографий. Именно здесь вы устанавливаете границы. Вы можете ограничить круг лиц, которые могут использовать ваш образ: только вы, одобренные подписчики, взаимные подписчики или все. Проверьте раздел Настройки > Ваш образ в приложении, чтобы зафиксировать эти настройки.
Они пытаются подать это как безобидную вещь. Веселый новый эффект. Но однажды, когда ворота открыты, кто решит, что должно пройти через них? 🏴☠️
