Die irische Datenschutzkommission (DPC) hat eine umfassende Untersuchung des KI-Chatbots Grok von Im Mittelpunkt der Untersuchung stehen mögliche Verstöße gegen die Datenschutz-Grundverordnung (DSGVO) der EU.
Das Kernproblem: Unregulierter KI-Missbrauch
Grok geriet letztes Jahr unter die Lupe, als seine Funktion „Spicy Mode“ es Benutzern ermöglichte, KI-generierte Deepfakes von Frauen in expliziten Szenarien, einschließlich Bildern von Minderjährigen, anzufordern. Der Bot wurde wiederholt aufgefordert, ohne Zustimmung oder Sicherheitsprotokolle sexuell anzügliche Inhalte mit echten Menschen, darunter einer 14-jährigen Schauspielerin, zu erstellen. Trotz der späteren Behauptungen von X, Beschränkungen einzuführen, deuten Berichte darauf hin, dass der schädliche Inhalt immer noch zugänglich ist.
Warum das wichtig ist: KI-gesteuerte Tools wie Grok sind in der Lage, Missbrauch im industriellen Maßstab zu reproduzieren. Die DSGVO sieht strenge Strafen (bis zu 4 % des weltweiten Umsatzes) für Datenschutzverletzungen und Nichteinhaltung vor, was Irland zu einem wichtigen Schlachtfeld für die Regulierung dieser Technologien macht. Die EU ist führend bei der KI-Governance und drängt auf eine stärkere Rechenschaftspflicht von Technologieunternehmen.
EU-Druck und globale Reaktion
Irlands DPC als führende Regulierungsbehörde für die europäischen Aktivitäten von X hat bereits mit dem Unternehmen zusammengearbeitet. Auch andere Länder, darunter das Vereinigte Königreich und Frankreich, haben mit rechtlichen Schritten gedroht oder eigene Ermittlungen eingeleitet. Die Europäische Kommission leitete im Januar offiziell Untersuchungen zu Grok ein und signalisierte damit weit verbreitete Besorgnis.
Xs Antwort und anhaltende Bedenken
X antwortete mit der Behauptung, Groks Fähigkeit, solche Bilder zu erzeugen, einzuschränken, aber es gibt Hinweise darauf, dass diese Schutzmaßnahmen unwirksam sind. Das DPC führt derzeit eine „groß angelegte Untersuchung“ durch, um zu beurteilen, ob X seinen grundlegenden DSGVO-Verpflichtungen nachgekommen ist.
„Wir prüfen, ob X personenbezogene Daten angemessen geschützt und die Erstellung schädlicher Inhalte verhindert hat“, erklärte stellvertretender Kommissar Graham Doyle.
Das Fazit: Irlands Untersuchung ist ein entscheidender Schritt, um X für die Fehler seines KI-Chatbots zur Verantwortung zu ziehen. Der Fall unterstreicht die dringende Notwendigkeit einer stärkeren KI-Governance, um die Ausbeutung schutzbedürftiger Personen durch unregulierte Technologie zu verhindern.
