OpenAI hat mit der Einführung einer Technologie zur Altersvorhersage innerhalb von ChatGPT begonnen, ein Schritt, der die Sicherheitsmaßnahmen für jugendliche Benutzer verbessern soll. Das am Dienstag angekündigte System zielt darauf ab, Minderjährige vor schädlichen Inhalten zu schützen und gleichzeitig die rechtlichen Herausforderungen des Unternehmens in der Vergangenheit im Zusammenhang mit dem Wohlergehen von Teenagern zu berücksichtigen.
Hintergrund und rechtlicher Kontext
Die Einführung folgt mehreren Klagen, in denen behauptet wird, ChatGPT habe Teenagern schädliche Ratschläge gegeben, darunter Fälle, in denen die KI angeblich zu Selbstmordgedanken beigetragen oder nicht angemessen auf Notsignale reagiert habe. OpenAI hat diese Vorwürfe bestritten, die Fälle führten jedoch zu einer Neubewertung seiner Sicherheitsprotokolle. Im Dezember aktualisierte OpenAI seine Model Spec – den Leitfaden für das Verhalten seiner KI – und befasst sich speziell mit Interaktionen mit Benutzern unter 18 Jahren in kritischen Situationen.
So funktioniert die Altersvorhersage
Das neue System von ChatGPT schätzt das Alter anhand von Verhaltensmustern und Kontosignalen. Dazu gehören Nutzungszeiten, Kontoalter, langfristige Aktivität und jedes selbst gemeldete Alter. Wenn das Modell feststellt, dass ein Benutzer unter 18 Jahre alt ist, wird der Zugriff auf drastische Gewaltdarstellungen, selbstverletzende Darstellungen und explizite Rollenspielinhalte eingeschränkt. Benutzer, die sich bei der Kontoerstellung zunächst als minderjährig bezeichnen, unterliegen automatisch diesen Schutzmaßnahmen.
Bei Konten, bei denen das Alter ungewiss ist, verwendet ChatGPT standardmäßig die sichereren Einstellungen. Erwachsene Benutzer, die fälschlicherweise als Minderjährige gekennzeichnet sind, können ihr Alter über Persona überprüfen, einen Identitätsüberprüfungsdienst eines Drittanbieters, der die Übermittlung eines Selfies erfordert.
Datenschutz- und Sicherheitsbedenken
Die Verwendung der Verifizierung durch Dritte wirft Datenschutzbedenken auf. OpenAI hat nicht detailliert dargelegt, wie eingereichte Ausweisdokumente gespeichert werden. Dies ist angesichts des Discord-Verstoßes im Jahr 2025, bei dem Zehntausende von der Regierung ausgestellte Ausweise offengelegt wurden, zur Vorsicht geboten. Dies verdeutlicht die inhärenten Risiken, wenn man sich bei der Altersüberprüfung auf externe Dienste verlässt.
OpenAI plant, die Genauigkeit der Altersvorhersage im Laufe der Zeit zu verfeinern und dabei auf der Grundlage der ersten Rollout-Daten zu iterieren. Das Unternehmen erkennt an, dass es sich hierbei um einen fortlaufenden Prozess handelt.
Die Implementierung der Altersvorhersage ist eine direkte Reaktion auf rechtlichen Druck und wachsende ethische Bedenken hinsichtlich der KI-Sicherheit. Durch die Einschränkung des Zugriffs auf schädliche Inhalte versucht OpenAI, potenzielle Risiken für gefährdete Benutzer zu mindern. Allerdings führt die Abhängigkeit von der Überprüfung durch Dritte zu neuen Sicherheitslücken, die sorgfältig gemanagt werden müssen.
