Las tiendas de aplicaciones de Apple y Google han alojado docenas de aplicaciones que utilizan inteligencia artificial para eliminar digitalmente la ropa de las imágenes, exponiendo a los sujetos sin su consentimiento. Un nuevo informe del Tech Transparency Project (TTP) revela que estas aplicaciones se han descargado más de 705 millones de veces en todo el mundo, generando un ingreso estimado de $117 millones para los gigantes tecnológicos a través de comisiones de las tiendas de aplicaciones.
La magnitud del problema
La investigación del TTP identificó 55 aplicaciones “nudify” en Google Play y 47 en la App Store de Apple, lo que demuestra una disponibilidad generalizada de herramientas capaces de crear deepfakes no consensuales. A pesar de que ambas empresas tenían políticas que prohibían dicho contenido, las aplicaciones permanecieron activas durante períodos prolongados, beneficiándose de imágenes abusivas y sexualizadas.
“Ambas empresas dicen que están dedicadas a la seguridad de los usuarios, pero albergan una colección de aplicaciones que pueden convertir una foto inofensiva de una mujer en una imagen abusiva y sexualizada”. – Informe TTP.
Respuesta del gigante tecnológico
Tras el informe TTP, Apple afirmó que eliminó 28 de las aplicaciones identificadas, mientras que Google afirma haber “suspendido varias”. Sin embargo, el TTP insiste en que estas acciones son insuficientes. El problema central no es solo la eliminación de aplicaciones, sino también el fracaso de las plataformas para evitar de manera proactiva que estas aplicaciones aparezcan en primer lugar.
La amenaza más amplia de los deepfake de IA
Esta proliferación de aplicaciones “nudify” es parte de una tendencia más amplia. xAI de Elon Musk y su chatbot Grok también han sido objeto de escrutinio por problemas similares: Se informa que Grok ha creado más de 3 millones de imágenes sexualizadas, incluidas miles que potencialmente representan niños, con controles de seguridad mínimos.
El rápido avance de la IA hace inevitable la propagación de la tecnología deepfake. Las empresas tecnológicas enfrentan un desafío constante para equilibrar la innovación con la seguridad del usuario, especialmente a medida que las herramientas de IA se vuelven más accesibles y poderosas.
La situación actual pone de relieve una brecha crítica en la regulación y el cumplimiento, lo que deja a los usuarios vulnerables a deepfakes no consensuados. Hasta que se implementen medidas más estrictas, estas plataformas seguirán beneficiándose del contenido abusivo mientras afirman priorizar la seguridad de los usuarios.
