De appstores van Apple en Google hebben tientallen applicaties gehost die gebruik maken van kunstmatige intelligentie om kleding digitaal uit afbeeldingen te verwijderen, waardoor onderwerpen zonder hun toestemming worden blootgelegd. Uit een nieuw rapport van het Tech Transparency Project (TTP) blijkt dat deze apps wereldwijd meer dan 705 miljoen keer zijn gedownload, wat naar schatting $117 miljoen aan inkomsten genereerde voor de technologiegiganten via commissies in de appstore.
De omvang van het probleem
Het TTP-onderzoek identificeerde 55 “nudify”-apps op Google Play en 47 in de App Store van Apple, wat een wijdverbreide beschikbaarheid aantoont van tools die in staat zijn deepfakes zonder wederzijdse toestemming te creëren. Ondanks dat beide bedrijven beleid hadden dat dergelijke inhoud verbiedt, bleven de apps gedurende langere perioden actief en profiteerden ze van beledigende en geseksualiseerde beelden.
“Beide bedrijven zeggen dat ze zich inzetten voor de veiligheid en beveiliging van gebruikers, maar ze hosten een verzameling apps die een onschadelijke foto van een vrouw kunnen veranderen in een beledigend, geseksualiseerd beeld.” – TTP-rapport.
Tech-gigantische reactie
Naar aanleiding van het TTP-rapport verklaarde Apple dat het 28 van de geïdentificeerde apps heeft verwijderd, terwijl Google beweert “er verschillende te hebben opgeschort”. De TTP benadrukt echter dat deze acties onvoldoende zijn. Het kernprobleem is niet alleen het verwijderen van apps, maar ook het onvermogen van de platforms om proactief te voorkomen dat deze apps überhaupt opduiken.
De bredere AI-deepfake-dreiging
Deze proliferatie van ‘nudify’-apps maakt deel uit van een grotere trend. De xAI van Elon Musk en zijn Grok-chatbot zijn ook onder de loep genomen vanwege soortgelijke problemen: Grok heeft naar verluidt meer dan 3 miljoen geseksualiseerde afbeeldingen gemaakt, waaronder duizenden die mogelijk kinderen afbeelden, met minimale veiligheidscontroles.
De snelle vooruitgang van AI maakt de verspreiding van deepfake-technologie onvermijdelijk. Technologiebedrijven worden geconfronteerd met een voortdurende uitdaging bij het balanceren van innovatie met gebruikersveiligheid, vooral nu AI-tools toegankelijker en krachtiger worden.
De huidige situatie wijst op een kritieke leemte in de regelgeving en handhaving, waardoor gebruikers kwetsbaar zijn voor deepfakes zonder wederzijds goedvinden. Totdat strengere maatregelen worden geïmplementeerd, zullen deze platforms blijven profiteren van beledigende inhoud, terwijl ze beweren prioriteit te geven aan de veiligheid van gebruikers.
