Martes en el Parlamento danés. La sala se llena de expectación. Un nuevo instituto surge de las sombras, listo para vigilar la IA para niños. Margrethe Vestager está al frente y al centro. El ex vicepresidente ejecutivo de la UE no se presenta simplemente para una fotografía. Ella es coanfitriona. Pasó una década regulando las Big Tech. Ahora está prestando su peso político a algo más pequeño. Estafador.
¿El terreno de juego? Imagínese clasificaciones de pruebas de choque independientes para automóviles. Compras un vehículo porque no explotó en una pista. Los padres deberían comprobar la IA de la misma manera antes de permitir que sus hijos la utilicen. Al menos aparentemente.
Pero espera. ¿Cómo se prueba un chatbot?
El instituto aún no lo dice. No me han explicado la mecánica. ¿Se puede realmente hacer una “prueba de choque” de un algoritmo que se actualiza continuamente? ¿Uno que se comporta de manera diferente según el contexto? Las condiciones estandarizadas son para máquinas estáticas, no para modelos vivos. Éstas son preguntas difíciles. El silencio del instituto es ensordecedor.
¿El genio ha vuelto a la botella?
La gente lleva años gritando. Investigadores. Defensores de la seguridad. Políticos con tiempo para mirar el código.
Los chatbots de IA se encuentran en una zona gris regulatoria. La Ley de Servicios Digitales de la UE no los capta bien. La Ley de Seguridad en Línea del Reino Unido también los ignora. En julio de 2025, la Comisión Europea publicó directrices para la protección de menores. Son consultivos. No vinculante. Sugerencias, básicamente.
James P. Steyer, fundador de Common Sense Media, lo expresa claramente:
“La IA está remodelando la infancia y la adolescencia, pero estamos tomando decisiones críticas… sin la evidencia que necesitamos”.
Quiere transparencia. Quiere pruebas independientes. ¿Urgente? Definitivamente.
En noviembre pasado cayó una evaluación de riesgos. Realizado junto con el Brainstorm Lab de Stanford Medicine. Common Sense Media probó los grandes nombres. ChatGPT, Claude, Gemini, Meta AI.
Fallaron.
No en todo. El suicidio explícito y el manejo de las autolesiones habían mejorado. Ese es un punto. Pero los modelos pasaron por alto las crisis de salud mental que acechan justo debajo. Señales claras. “Migas de pan perdidas”. Los robots ignoraron la angustia emocional y se centraron en explicaciones sobre la salud física. Es un desajuste. Uno peligroso.
Peor aún, un informe encontró que ChatGPT enviaba alertas de suicidio con más de 24 horas de retraso. En una crisis real, un día es una eternidad. La red de seguridad tiene agujeros. Los grandes.
¿Quién paga el flautista?
El instituto opera bajo Common Sense Media. La financiación proviene de una combinación de filántropos e industria. Sí. Las empresas cuyos productos quieren regular.
Anthropic, la Fundación OpenAI, Pinterest. Ellos escriben los cheques.
¿Ellos toman las decisiones? El instituto dice que no. Reivindican total independencia editorial. Una política de conflicto de intereses impide que los empleados o afiliados actuales formen parte de la junta directiva. Suena limpio sobre el papel.
Incluso planean devolver herramientas a la industria. Los desarrolladores de evaluaciones de código abierto pueden ejecutar sus propios modelos. ¿Beneficio mutuo? ¿O un compromiso mutuo?
Veremos.
