Mardi au Parlement danois. La salle se remplit d’attentes. Un nouvel institut sort de l’ombre, prêt à contrôler l’IA pour les enfants. Margrethe Vestager se tient devant et au centre. L’ancien vice-président exécutif de l’UE ne se présente pas seulement pour une photo. Elle co-anime. Elle a passé une décennie à réglementer la Big Tech. Elle prête désormais son poids politique à quelque chose de plus petit. Plus net.
Le terrain ? Imaginez des évaluations indépendantes des crash-tests pour les voitures. Vous achetez un véhicule parce qu’il n’a pas explosé sur une piste. Les parents devraient vérifier une IA de la même manière avant de laisser leurs enfants l’utiliser. En apparence, du moins.
Mais attendez. Comment crash tester un chatbot ?
L’institut ne le dit pas encore. Ils n’ont pas expliqué la mécanique. Pouvez-vous vraiment « crash-tester » un algorithme qui se met à jour en permanence ? Celui qui se comporte différemment selon le contexte ? Les conditions standardisées concernent les machines statiques et non les modèles vivants. Ce sont des questions lourdes. Le silence de l’institut est assourdissant.
Le génie est-il de retour dans la bouteille ?
Les gens crient depuis des années. Chercheurs. Défenseurs de la sécurité. Les politiciens ont le temps d’examiner le code.
Les chatbots IA se trouvent dans une zone grise réglementaire. La loi européenne sur les services numériques ne les cible pas bien. La loi britannique sur la sécurité en ligne ne les respecte pas non plus. En juillet 2025, la Commission européenne a publié des lignes directrices pour la protection des mineurs. Ils sont consultatifs. Non contraignant. Des suggestions, en gros.
James P. Steyer, fondateur de Common Sense Media, le dit clairement :
“L’IA remodèle l’enfance et les adolescents, mais nous prenons des décisions critiques… sans les preuves dont nous avons besoin.”
Il veut de la transparence. Il veut des tests indépendants. Urgent? Certainement.
En novembre dernier, une évaluation des risques a été abandonnée. Réalisé aux côtés du Brainstorm Lab de Stanford Medicine. Common Sense Media a testé les grands noms. ChatGPT, Claude, Gemini, Meta AI.
Ils ont échoué.
Pas sur tout. La gestion explicite du suicide et de l’automutilation s’est améliorée. C’est un point. Mais les modèles n’ont pas compris les crises de santé mentale qui se cachent juste en dessous. Des signes clairs. ” Fil d’Ariane manqué. ” Les robots ont ignoré la détresse émotionnelle et se sont concentrés sur les explications liées à la santé physique. C’est un décalage. Dangereux.
Pire encore, un rapport a révélé que ChatGPT envoyait des alertes suicide plus de 24 heures trop tard. Dans une véritable crise, un jour est une éternité. Le filet de sécurité est troué. Des gros.
Qui paie le prix ?
L’institut fonctionne sous Common Sense Media. Le financement provient d’un mélange de philanthropes et d’industries. Oui. Les entreprises dont ils veulent réglementer les produits.
Anthropic, la Fondation OpenAI, Pinterest. Ils font les chèques.
Est-ce qu’ils mènent la barque ? L’institut dit non. Ils revendiquent une totale indépendance éditoriale. Une politique sur les conflits d’intérêts empêche les employés actuels ou les sociétés affiliées de siéger au conseil d’administration. Cela semble clair sur le papier.
Ils envisagent même de redonner des outils à l’industrie. Les développeurs d’évaluations open source peuvent exécuter sur leurs propres modèles. Bénéfice mutuel ? Ou un compromis mutuel ?
Nous verrons.
