W sklepach z aplikacjami Apple i Google dostępne są dziesiątki aplikacji wykorzystujących sztuczną inteligencję do cyfrowego usuwania odzieży ze zdjęć, narażając ludzi bez ich zgody. Nowy raport Tech Transparency Project (TTP) pokazuje, że aplikacje te zostały pobrane ponad 705 milionów razy na całym świecie, co wygenerowało szacunkowo 117 milionów dolarów opłat za sklepy z aplikacjami dla gigantów technologicznych.
Zakres problemu
W wyniku dochodzenia TTP zidentyfikowano 55 aplikacji typu „nudify” w Google Play i 47 w sklepie Apple App Store, co wskazuje na powszechną dostępność narzędzi umożliwiających tworzenie deepfakes bez zgody użytkownika. Mimo że obie firmy mają własne zasady zabraniające takich treści, aplikacje pozostawały aktywne przez długi czas, czerpiąc korzyści z obraźliwych i seksualizowanych obrazów.
„Obie firmy twierdzą, że dbają o bezpieczeństwo użytkowników, ale udostępniają także różne aplikacje, które mogą zamienić niewinne zdjęcie kobiety w obraźliwy obraz o charakterze seksualnym”. – raport TTP.
Technolodzy reagują
Po raporcie TTP Apple stwierdziło, że usunął 28 zidentyfikowanych aplikacji, a Google twierdzi, że „zawiesiło kilka”. TTP twierdzi jednak, że te działania nie wystarczą. Głównym problemem jest nie tylko usuwanie aplikacji, ale także brak aktywnego zapobiegania ich pojawianiu się przez platformy.
Większe zagrożenie ze strony AI Deepfake
Rozpowszechnianie się aplikacji typu „nudify” jest częścią szerszego trendu. XAI Elona Muska i jego chatbot Grok również znalazły się w ogniu krytyki z podobnych powodów: Grok według doniesień stworzył ponad 3 miliony obrazów o charakterze seksualnym, w tym tysiące potencjalnie przedstawiających dzieci, praktycznie bez stosowania środków bezpieczeństwa.
Szybki postęp w dziedzinie sztucznej inteligencji sprawia, że rozpowszechnianie się technologii deepfake jest nieuniknione. Firmy technologiczne stoją przed ciągłym wyzwaniem, jakim jest zrównoważenie innowacji z bezpieczeństwem użytkowników, zwłaszcza w miarę jak narzędzia sztucznej inteligencji stają się coraz bardziej dostępne i wydajne.
Obecna sytuacja uwydatnia krytyczną lukę w przepisach i egzekwowaniu prawa, narażając użytkowników na ataki deepfakes dokonywane bez ich zgody. Dopóki nie zostaną podjęte bardziej rygorystyczne środki, platformy te będą w dalszym ciągu czerpać korzyści z obraźliwych treści, jednocześnie twierdząc, że priorytetowo traktują bezpieczeństwo użytkowników.
