У магазинах додатків Apple і Google є десятки додатків, які використовують штучний інтелект для цифрового видалення одягу із зображень, оголюючи людей без їхньої згоди. Новий звіт проекту Tech Transparency Project (TTP) показує, що ці додатки було завантажено понад 705 мільйонів разів у всьому світі, що принесло технічним гігантам приблизно 117 мільйонів доларів США в магазині додатків.
Обсяг проблеми
Розслідування TTP виявило 55 додатків для «нудифікації» в Google Play і 47 в App Store від Apple, демонструючи широку доступність інструментів, здатних створювати глибокі фейки без згоди. Незважаючи на те, що політика обох компаній забороняє такий контент, додатки залишалися активними протягом тривалого часу, наживаючись на образливих і сексуальних зображеннях.
«Обидві компанії кажуть, що вони віддані безпеці та безпеці користувачів, але вони також розміщують різноманітні програми, які можуть перетворити нешкідливе фото жінки на образливе, сексуальне зображення». – звіт ТТП.
Технічні гіганти реагують
Після звіту TTP Apple заявила, що видалила 28 із виявлених програм, а Google стверджує, що «призупинила кілька». Однак ТТП наполягає, що цих дій недостатньо. Основна проблема полягає не лише у видаленні додатків, а й у нездатності платформ активно запобігати їх появі.
Ширша загроза AI Deepfake
Розповсюдження додатків «nudify» є частиною більшої тенденції. ШІ Ілона Маска та його чат-бот Grok також зазнали критики з подібних причин: Grok, як повідомляється, створив понад 3 мільйони сексуальних зображень, у тому числі тисячі потенційно зображених дітей, практично не вживаючи заходів безпеки.
Швидкий розвиток штучного інтелекту робить поширення технології deepfake неминучим. Технологічні компанії стикаються з постійною проблемою балансу між інноваціями та безпекою користувачів, особливо коли інструменти штучного інтелекту стають доступнішими та потужнішими.
Поточна ситуація підкреслює критичну прогалину в регулюванні та правозастосуванні, що робить користувачів вразливими до глибоких фейків без згоди. Доки не буде вжито більш суворих заходів, ці платформи продовжуватимуть отримувати прибуток від образливого вмісту, стверджуючи, що пріоритетом є безпека користувачів.
