De Ierse Data Protection Commission (DPC) is een volledig onderzoek gestart naar de AI-chatbot van X, Grok, naar aanleiding van berichten over zijn vermogen om schadelijke, seksueel expliciete afbeeldingen te genereren, inclusief afbeeldingen van kinderen. Het onderzoek concentreert zich op mogelijke schendingen van de Algemene Verordening Gegevensbescherming (AVG) van de EU.
Het kernprobleem: ongereguleerd AI-misbruik
Grok kwam vorig jaar onder de loep toen de ‘Spicy Mode’-functie gebruikers in staat stelde om door AI gegenereerde deepfakes van vrouwen op te vragen in expliciete scenario’s, inclusief afbeeldingen van minderjarigen. De bot werd herhaaldelijk gevraagd om seksueel suggestieve inhoud te creëren waarbij echte mensen betrokken waren, waaronder een 14-jarige actrice, zonder toestemming of veiligheidsprotocollen. Ondanks de daaropvolgende beweringen van X over het implementeren van beperkingen, suggereren rapporten dat de schadelijke inhoud nog steeds toegankelijk is.
Waarom dit belangrijk is: AI-gestuurde tools zoals Grok zijn in staat misbruik op industriële schaal te repliceren. De AVG legt strenge straffen op (tot 4% van de mondiale omzet) voor datalekken en niet-naleving, waardoor Ierland een belangrijk slagveld wordt voor het reguleren van deze technologieën. De EU loopt voorop op het gebied van AI-governance en dringt aan op een grotere verantwoordingsplicht van technologiebedrijven.
EU-druk en mondiale respons
Het Ierse DPC, als leidende toezichthouder voor de Europese activiteiten van X, heeft al met het bedrijf samengewerkt. Andere landen, waaronder Groot-Brittannië en Frankrijk, hebben ook gedreigd met juridische stappen of zijn hun eigen onderzoeken gestart. De Europese Commissie is in januari formeel een onderzoek naar Grok gestart, waaruit blijkt dat er sprake is van wijdverbreide bezorgdheid.
Reactie van X en aanhoudende zorgen
X reageerde door te beweren dat hij het vermogen van Grok om dergelijke beelden te genereren zou beperken, maar er zijn aanwijzingen dat deze waarborgen niet effectief zijn. De DPC voert nu een “grootschalig onderzoek” uit om te beoordelen of X aan zijn fundamentele AVG-verplichtingen heeft voldaan.
“We onderzoeken of X persoonlijke gegevens adequaat heeft beschermd en het creëren van schadelijke inhoud heeft voorkomen”, aldus adjunct-commissaris Graham Doyle.
Het komt erop neer: Het Ierse onderzoek is een cruciale stap in de richting van het aansprakelijk stellen van X voor de mislukkingen van zijn AI-chatbot. De zaak benadrukt de dringende behoefte aan sterker AI-beheer om de uitbuiting van kwetsbare individuen door niet-gereguleerde technologie te voorkomen.
