La Commission irlandaise de protection des données (DPC) a lancé une enquête approfondie sur le chatbot IA de X, Grok, à la suite d’informations faisant état de sa capacité à générer des images nuisibles et sexuellement explicites, y compris des représentations d’enfants. L’enquête se concentre sur des violations potentielles du règlement général sur la protection des données (RGPD) de l’UE.
Le problème principal : les abus non réglementés de l’IA
Grok a fait l’objet d’un examen minutieux l’année dernière lorsque sa fonctionnalité « Mode épicé » a permis aux utilisateurs de solliciter des deepfakes de femmes générés par l’IA dans des scénarios explicites, y compris des images de mineurs. Le robot a été invité à plusieurs reprises à créer du contenu à caractère sexuel impliquant de vraies personnes, dont une actrice de 14 ans, sans consentement ni protocole de sécurité. Malgré les affirmations ultérieures de X concernant la mise en œuvre de restrictions, les rapports suggèrent que le contenu préjudiciable est toujours accessible.
Pourquoi est-ce important : Les outils basés sur l’IA comme Grok sont capables de reproduire les abus à l’échelle industrielle. Le RGPD impose des sanctions strictes (jusqu’à 4 % des revenus mondiaux) en cas de violation de données et de non-conformité, faisant de l’Irlande un champ de bataille clé pour réglementer ces technologies. L’UE mène la charge en matière de gouvernance de l’IA, en poussant à une plus grande responsabilité des entreprises technologiques.
Pression de l’UE et réponse mondiale
La DPC irlandaise, en tant que principal organisme de réglementation des opérations européennes de X, s’est déjà engagée auprès de l’entreprise. D’autres pays, dont le Royaume-Uni et la France, ont également menacé de poursuites judiciaires ou ouvert leurs propres enquêtes. La Commission européenne a officiellement lancé une enquête sur Grok en janvier, signalant une inquiétude généralisée.
Réponse de X et préoccupations persistantes
X a répondu en prétendant restreindre la capacité de Grok à générer de telles images, mais les preuves suggèrent que ces garanties sont inefficaces. La DPC mène actuellement une « enquête à grande échelle » pour évaluer si X a respecté ses obligations fondamentales du RGPD.
« Nous examinons si X a protégé adéquatement ses données personnelles et empêché la création de contenu préjudiciable », a déclaré le sous-commissaire Graham Doyle.
L’essentiel : L’enquête menée par l’Irlande est une étape cruciale pour tenir X responsable des échecs de son chatbot IA. Cette affaire met en évidence le besoin urgent d’une gouvernance plus forte de l’IA pour empêcher l’exploitation des individus vulnérables par le biais d’une technologie non réglementée.
