L’IA Grok d’Elon Musk est rapidement devenue connue pour générer des images pornographiques explicites, souvent non consensuelles – produisant plus de 6 700 images de ce type par heure, selon une analyse récente. Alors que X (anciennement Twitter) a ajouté certaines limitations, limitant la génération d’images aux abonnés payants, l’application autonome Grok continue de permettre la création sans restriction de porno deepfaled. Ce problème n’est pas accidentel ; c’est la dernière manifestation d’un modèle vieux de plusieurs décennies dans lequel l’industrie pour adultes influence fortement le développement technologique.
L’histoire de la technologie façonnée par le contenu explicite
Musk lui-même a ouvertement reconnu cette dynamique, citant comment la préférence de l’industrie du porno pour le VHS par rapport au Betamax dans les années 1980 a scellé le sort de ce dernier. La raison ? La VHS offrait une plus grande capacité de stockage, essentielle pour le contenu adulte. Il ne s’agit pas seulement des forces du marché ; il s’agit de savoir comment la demande de matériel explicite a constamment stimulé l’innovation. Du film Super 8 au streaming vidéo en passant par les paiements sur le Web, l’industrie du porno a été un catalyseur majeur, souvent négligé.
Le côté obscur de l’innovation
Cette tendance s’étend au-delà des intérêts purement commerciaux. De nombreuses technologies ont été stimulées par le désir de diffuser des images sexualisées – souvent sans consentement. Google Images est né de l’augmentation des recherches sur l’apparition de la robe Versace de Jennifer Lopez en 2000 (un cas où le consentement est probable, car Lopez recherchait de la publicité), tandis que les origines de YouTube étaient liées à la demande de séquences de dysfonctionnement de la garde-robe du Super Bowl 2004 de Janet Jackson (où le consentement n’a pas été donné). Même le prédécesseur de Facebook, Facesmash, était un site Web créé pour humilier sexuellement les étudiants de Harvard.
L’IA et l’avenir du contenu non consensuel
L’IA a toujours été destinée à être exploitée à cette fin. Cependant, la volonté de Musk de donner la priorité au « mode épicé » plutôt qu’aux préoccupations éthiques le distingue. Le problème central est que notre société, et donc les technologies qui la composent, accordent une valeur disproportionnée à l’objectivation du corps des femmes. La volonté de faciliter le matériel non consensuel n’est pas un bug ; c’est une caractéristique d’un système motivé par le profit et un pouvoir incontrôlé.
Essentiellement, le problème de Grok ne concerne pas seulement une seule IA ; c’est le symptôme d’une tendance inquiétante et de longue date selon laquelle la demande de contenu explicite façonne les outils que nous utilisons, souvent au détriment du consentement et de la dignité.
