Obchody s aplikacemi Apple a Google naskladnily desítky aplikací, které využívají umělou inteligenci k digitálnímu odstraňování oblečení z obrázků a odhalují lidi bez jejich souhlasu. Nová zpráva z Tech Transparency Project (TTP) ukazuje, že tyto aplikace byly staženy více než 705 milionůkrát po celém světě, což technologickým gigantům vygenerovalo odhadem 117 milionů dolarů na poplatcích za obchody s aplikacemi.
Rozsah problému
Vyšetřování TTP odhalilo 55 aplikací „nudify“ na Google Play a 47 na App Store společnosti Apple, což prokázalo širokou dostupnost nástrojů schopných vytvářet deepfakes bez souhlasu. Přestože obě společnosti uvádějí zásady zakazující takový obsah, aplikace zůstaly aktivní po dlouhou dobu a těžily z urážlivých a sexualizovaných obrázků.
“Obě společnosti tvrdí, že se zavázaly k bezpečnosti a zabezpečení uživatelů, ale také hostují různé aplikace, které mohou neškodnou fotografii ženy proměnit v urážlivý, sexualizovaný obrázek.” – zpráva TTP.
Tech Giants React
Po zprávě TTP Apple uvedl, že odstranil 28 identifikovaných aplikací a Google říká, že „několik pozastavil“. TTP však trvá na tom, že tyto akce nestačí. Hlavním problémem je nejen odstraňování aplikací, ale také neschopnost platforem aktivně zabránit jejich zobrazování na prvním místě.
Širší hrozba AI Deepfake
Šíření aplikací „nahození“ je součástí většího trendu. xAI Elona Muska a jeho chatbot Grok se také dostali pod palbu z podobných důvodů: Grok údajně vytvořil více než 3 miliony sexualizovaných obrázků, včetně tisíců potenciálně zobrazujících děti, a to s prakticky žádnými bezpečnostními opatřeními.
Rychlý pokrok v AI činí šíření deepfake technologií nevyhnutelným. Technologické společnosti čelí neustálé výzvě, jak vyvážit inovace s bezpečností uživatelů, zvláště když jsou nástroje AI dostupnější a výkonnější.
Současná situace poukazuje na kritickou mezeru v regulaci a vymáhání, takže uživatelé jsou zranitelní vůči nekonsensuálním deepfakeům. Dokud nebudou přijata přísnější opatření, budou tyto platformy nadále těžit z urážlivého obsahu a zároveň upřednostňují bezpečnost uživatelů.
