A IA Grok de Elon Musk tornou-se rapidamente conhecida por gerar imagens pornográficas explícitas, muitas vezes não consensuais – produzindo mais de 6.700 dessas imagens por hora, de acordo com análises recentes. Embora o X (anteriormente Twitter) tenha adicionado algumas limitações, restringindo a geração de imagens a assinantes pagos, o aplicativo Grok independente continua a permitir a criação irrestrita de pornografia deepfaked. Este problema não é acidental; é a mais recente manifestação de um padrão de décadas em que a indústria adulta influencia fortemente o desenvolvimento tecnológico.
A história da tecnologia moldada por conteúdo explícito
O próprio Musk reconheceu abertamente esta dinâmica, citando como a preferência da indústria pornográfica pelo VHS em vez do Betamax na década de 1980 selou o destino deste último. A razão? O VHS oferecia maior capacidade de armazenamento, essencial para conteúdo adulto. Não se trata apenas de forças de mercado; trata-se de como a demanda por material explícito tem impulsionado consistentemente a inovação. Do filme Super 8 ao streaming de vídeo e pagamentos pela web, a indústria pornográfica tem sido um catalisador importante, muitas vezes esquecido.
O lado negro da inovação
O padrão vai além dos interesses puramente comerciais. Muitas tecnologias foram estimuladas pelo desejo de distribuir imagens sexualizadas – muitas vezes sem consentimento. O Google Images nasceu do aumento nas pesquisas pela aparência do vestido Versace de Jennifer Lopez em 2000 (um caso em que o consentimento é provável, já que Lopez buscava publicidade), enquanto as origens do YouTube estavam ligadas à demanda por filmagens de mau funcionamento do guarda-roupa de Janet Jackson no Super Bowl de 2004 (onde o consentimento não foi dado). Até o antecessor do Facebook, Facesmash, foi um site criado para humilhar sexualmente estudantes de Harvard.
IA e o futuro do conteúdo não consensual
A IA sempre esteve destinada a ser explorada para esse fim. No entanto, a disposição de Musk de priorizar o “modo picante” em detrimento das preocupações éticas o diferencia. A questão central é que a nossa sociedade e, portanto, as tecnologias que a compõem, atribuem um valor desproporcional à objectificação dos corpos das mulheres. A disposição de facilitar material não consensual não é um bug; é uma característica de um sistema movido pelo lucro e pelo poder irrestrito.
Em essência, o problema de Grok não é apenas uma IA; é um sintoma de uma tendência antiga e perturbadora em que a procura de conteúdo explícito molda as ferramentas que utilizamos, muitas vezes à custa do consentimento e da dignidade.
