Terça-feira no Parlamento Dinamarquês. A sala se enche de expectativa. Um novo instituto sai das sombras, pronto para policiar a IA para crianças. Margrethe Vestager fica na frente e no centro. O antigo vice-presidente executivo da UE não aparece apenas para tirar uma fotografia. Ela é co-apresentadora. Ela passou uma década regulamentando a Big Tech. Agora ela está emprestando seu peso político para algo menor. Mais nítido.
O campo? Imagine classificações de testes de colisão independentes para carros. Você compra um veículo porque ele não explodiu na pista. Os pais devem verificar uma IA da mesma forma antes de permitir que seus filhos a utilizem. Ostensivamente, pelo menos.
Mas espere. Como você testa um chatbot?
O instituto ainda não diz. Eles não explicaram a mecânica. Você pode realmente fazer um “teste de falha” em um algoritmo que é atualizado continuamente? Um que se comporta de maneira diferente dependendo do contexto? As condições padronizadas são para máquinas estáticas e não para modelos vivos. Estas são questões pesadas. O silêncio do instituto é ensurdecedor.
O gênio está de volta à garrafa?
As pessoas gritam há anos. Pesquisadores. Defensores da segurança. Políticos com tempo para analisar o código.
Os chatbots de IA estão em uma zona cinzenta regulatória. A Lei dos Serviços Digitais da UE não os aborda bem. A Lei de Segurança Online do Reino Unido também sente falta deles. Em julho de 2025, a Comissão Europeia divulgou diretrizes para a proteção de menores. Eles são consultivos. Não é vinculativo. Sugestões, basicamente.
James P. Steyer, fundador da Common Sense Media, coloca isso claramente:
“A IA está remodelando a infância e os adolescentes, mas estamos tomando decisões críticas… sem as evidências de que precisamos.”
Ele quer transparência. Ele quer testes independentes. Urgente? Definitivamente.
Em novembro passado, uma avaliação de risco foi abandonada. Feito em conjunto com o Brainstorm Lab da Stanford Medicine. A Common Sense Media testou os grandes nomes. ChatGPT, Claude, Gêmeos, Meta AI.
Eles falharam.
Não em tudo. O suicídio explícito e o tratamento da automutilação melhoraram. Esse é um ponto. Mas os modelos não perceberam as crises de saúde mental que se escondem logo abaixo. Sinais claros. “Perdi migalhas de pão.” Os bots ignoraram o sofrimento emocional e se concentraram em explicações sobre saúde física. É uma incompatibilidade. Perigoso.
Pior ainda, um relatório descobriu que o ChatGPT enviou alertas de suicídio com mais de 24 horas de atraso. Numa crise real, um dia é uma eternidade. A rede de segurança tem buracos. Grandes.
Quem paga o flautista?
O instituto opera sob a Common Sense Media. O financiamento vem de uma mistura de filantropos e da indústria. Sim. As empresas cujos produtos desejam regular.
Anthropic, Fundação OpenAI, Pinterest. Eles assinam os cheques.
Eles mandam? O instituto diz que não. Eles reivindicam total independência editorial. Uma política de conflito de interesses impede que funcionários ou afiliados atuais façam parte do conselho. Parece limpo no papel.
Eles até planejam devolver ferramentas à indústria. Os desenvolvedores de avaliações de código aberto podem executar seus próprios modelos. Benefício mútuo? Ou compromisso mútuo?
Vamos ver.
