Dienstag im dänischen Parlament. Der Raum füllt sich mit Erwartung. Ein neues Institut tritt aus dem Schatten und ist bereit, KI für Kinder zu überwachen. Margrethe Vestager steht vorne und in der Mitte. Der ehemalige EU-Vizepräsident taucht nicht nur für ein Foto auf. Sie ist Co-Moderatorin. Sie verbrachte ein Jahrzehnt damit, Big Tech zu regulieren. Jetzt verleiht sie ihr politisches Gewicht etwas Kleinerem. Schärfer.
Das Spielfeld? Stellen Sie sich unabhängige Crashtest-Bewertungen für Autos vor. Sie kaufen ein Fahrzeug, weil es nicht auf einer Strecke explodiert ist. Eltern sollten eine KI auf die gleiche Weise überprüfen, bevor sie ihren Kindern erlauben, sie zu verwenden. Zumindest vordergründig.
Aber warte. Wie führt man einen Crashtest eines Chatbots durch?
Das sagt das Institut noch nicht. Sie haben die Mechanik nicht erklärt. Kann man einen Algorithmus, der sich ständig aktualisiert, wirklich einem „Crashtest“ unterziehen? Eines, das sich je nach Kontext unterschiedlich verhält? Standardisierte Bedingungen gelten für statische Maschinen, nicht für lebende Modelle. Das sind schwere Fragen. Die Stille im Institut ist ohrenbetäubend.
Ist der Geist wieder in der Flasche?
Die Leute schreien seit Jahren. Forscher. Befürworter der Sicherheit. Politiker haben Zeit, sich den Kodex anzuschauen.
KI-Chatbots befinden sich in einer regulatorischen Grauzone. Das EU-Gesetz über digitale Dienste trifft sie nicht gut. Auch das britische Online Safety Act vermisst sie. Im Juli 2025 veröffentlichte die Europäische Kommission Leitlinien zum Minderjährigenschutz. Sie sind beratend tätig. Unverbindlich. Vorschläge im Grunde.
James P. Steyer, Gründer von Common Sense Media, bringt es auf den Punkt:
„KI verändert die Kindheit und Jugend, doch wir treffen wichtige Entscheidungen … ohne die Beweise, die wir brauchen.“
Er will Transparenz. Er will unabhängige Tests. Dringend? Definitiv.
Im vergangenen November wurde eine Risikobewertung fallen gelassen. Gemeinsam mit dem Brainstorm Lab von Stanford Medicine durchgeführt. Common Sense Media hat die großen Namen getestet. ChatGPT, Claude, Gemini, Meta AI.
Sie haben versagt.
Nicht auf alles. Der Umgang mit explizitem Suizid und Selbstverletzung hatte sich verbessert. Das ist ein Punkt. Aber die Models übersahen die psychischen Krisen, die direkt darunter lauerten. Klare Zeichen. „Semmelbrösel verpasst.“ Die Bots ignorierten emotionalen Stress und konzentrierten sich auf Erklärungen zur körperlichen Gesundheit. Es ist ein Missverhältnis. Gefährlich.
Schlimmer noch: In einem Bericht wurde festgestellt, dass ChatGPT Selbstmordwarnungen mehr als 24 Stunden zu spät verschickte. In einer echten Krise ist ein Tag eine Ewigkeit. Das Sicherheitsnetz hat Löcher. Große.
Wer bezahlt den Pfeifer?
Das Institut firmiert unter Common Sense Media. Die Finanzierung erfolgt durch eine Mischung aus Philanthropen und der Industrie. Ja. Die Unternehmen, deren Produkte sie regulieren wollen.
Anthropic, die OpenAI Foundation, Pinterest. Sie schreiben die Schecks.
Geben sie den Ton an? Das Institut sagt nein. Sie beanspruchen volle redaktionelle Unabhängigkeit. Eine Richtlinie zu Interessenkonflikten verhindert, dass aktuelle Mitarbeiter oder verbundene Unternehmen im Vorstand sitzen. Auf dem Papier klingt es sauber.
Sie planen sogar, der Industrie Werkzeuge zurückzugeben. Entwickler von Open-Source-Bewertungen können ihre eigenen Modelle ausführen. Gegenseitiger Nutzen? Oder gegenseitiger Kompromiss?
Wir werden sehen.
