OpenAI a commencé à déployer une technologie de prédiction de l’âge au sein de ChatGPT, une initiative conçue pour améliorer les mesures de sécurité pour les utilisateurs adolescents. Le système, annoncé mardi, vise à protéger les mineurs des contenus préjudiciables tout en reconnaissant les défis juridiques passés de l’entreprise liés au bien-être des adolescents.
Contexte et contexte juridique
Ce déploiement fait suite à plusieurs poursuites alléguant que ChatGPT aurait fourni des conseils préjudiciables à des adolescents, notamment dans des cas où l’IA aurait contribué à des idées suicidaires ou n’aurait pas répondu de manière adéquate aux signaux de détresse. OpenAI a contesté ces allégations, mais ces cas ont conduit à une réévaluation de ses protocoles de sécurité. En décembre, OpenAI a mis à jour son Model Spec, le guide du comportement de son IA, traitant spécifiquement des interactions avec les utilisateurs de moins de 18 ans dans des situations critiques.
Comment fonctionne la prédiction de l’âge
Le nouveau système de ChatGPT estime l’âge à l’aide de modèles comportementaux et de signaux de compte. Ceux-ci incluent les durées d’utilisation, l’âge du compte, l’activité à long terme et tout âge autodéclaré. Si le modèle détermine qu’un utilisateur a moins de 18 ans, l’accès aux images de violence graphique, aux représentations d’automutilation et au contenu de jeu de rôle explicite sera restreint. Les utilisateurs qui se déclarent initialement mineurs lors de la création de leur compte sont automatiquement soumis à ces garanties.
Pour les comptes dont l’âge est incertain, ChatGPT utilisera par défaut les paramètres les plus sûrs. Les utilisateurs adultes signalés à tort comme mineurs peuvent vérifier leur âge via Persona, un service tiers de vérification d’identité nécessitant une soumission de selfie.
Problèmes de confidentialité et de sécurité
Le recours à la vérification par un tiers soulève des problèmes de confidentialité. OpenAI n’a pas détaillé comment les documents d’identité soumis seront stockés, une mise en garde compte tenu de la violation Discord de 2025 qui a exposé des dizaines de milliers de pièces d’identité émises par le gouvernement. Cela met en évidence les risques inhérents au recours à des services externes pour la vérification de l’âge.
OpenAI prévoit d’affiner la précision de la prédiction de l’âge au fil du temps, en itérant sur la base des données de déploiement initiales. L’entreprise reconnaît qu’il s’agit d’un processus continu.
La mise en œuvre de la prédiction de l’âge est une réponse directe à la pression juridique et aux préoccupations éthiques croissantes concernant la sécurité de l’IA. En restreignant l’accès aux contenus préjudiciables, OpenAI cherche à atténuer les risques potentiels pour les utilisateurs vulnérables. Cependant, le recours à la vérification par des tiers introduit de nouvelles failles de sécurité qui doivent être gérées avec soin.
