Магазины приложений Apple и Google разместили десятки приложений, использующих искусственный интеллект для цифрового удаления одежды с изображений, обнажая людей без их согласия. Новый отчет от Tech Transparency Project (TTP) показывает, что эти приложения были загружены более 705 миллионов раз по всему миру, что принесло технологическим гигантам около 117 миллионов долларов в виде комиссий с магазинов приложений.
Масштаб Проблемы
Расследование TTP выявило 55 приложений «nudify» в Google Play и 47 в App Store от Apple, демонстрируя широкую доступность инструментов, способных создавать дипфейки без согласия. Несмотря на то, что обе компании заявляют о политике, запрещающей такой контент, приложения оставались активными в течение длительного времени, извлекая прибыль из оскорбительных и сексуализированных изображений.
«Обе компании утверждают, что привержены безопасности и защите пользователей, но при этом размещают множество приложений, которые могут превратить безобидную фотографию женщины в оскорбительное, сексуализированное изображение.» – Отчет TTP.
Реакция Технологических Гигантов
После отчета TTP, Apple заявила, что удалила 28 из выявленных приложений, а Google утверждает, что «приостановила работу нескольких». Однако TTP настаивает на том, что этих действий недостаточно. Основная проблема заключается не только в удалении приложений, но и в неспособности платформ активно предотвращать их появление в первую очередь.
Более Широкая Угроза AI Deepfake
Распространение приложений «nudify» является частью более широкой тенденции. xAI Илона Маска и его чат-бот Grok также подверглись критике по аналогичным причинам: Grok, по сообщениям, создал более 3 миллионов сексуализированных изображений, включая тысячи, потенциально изображающих детей, при этом практически отсутствуют какие-либо меры безопасности.
Быстрое развитие ИИ делает распространение технологии дипфейков неизбежным. Технологические компании сталкиваются с постоянной задачей по балансировке инноваций и безопасности пользователей, особенно по мере того, как инструменты ИИ становятся все более доступными и мощными.
Текущая ситуация подчеркивает критический пробел в регулировании и правоприменении, оставляя пользователей уязвимыми для дипфейков без согласия. До тех пор, пока не будут приняты более строгие меры, эти платформы будут продолжать получать прибыль от оскорбительного контента, заявляя при этом о приоритете безопасности пользователей.
