Dinsdag in het Deense parlement. De kamer vult zich met verwachting. Er komt een nieuw instituut uit de schaduw, klaar om toezicht te houden op AI voor kinderen. Margrethe Vestager staat vooraan en in het midden. De voormalige uitvoerend vice-president van de EU komt niet alleen opdagen voor een foto. Ze is co-host. Ze heeft tien jaar besteed aan het reguleren van Big Tech. Nu leent ze haar politieke gewicht aan iets kleiners. Scherper.
Het veld? Stel je eens voor dat er onafhankelijke crashtestbeoordelingen voor auto’s zijn. Je koopt een voertuig omdat het niet op een circuit is ontploft. Ouders moeten een AI op dezelfde manier controleren voordat ze hun kinderen deze laten gebruiken. Ogenschijnlijk tenminste.
Maar wacht. Hoe crashtest je een chatbot?
Het instituut zegt er nog niets over. Ze hebben de mechanismen niet uitgelegd. Kun je een algoritme dat voortdurend wordt bijgewerkt echt ‘crashtesten’? Eentje die zich afhankelijk van de context anders gedraagt? Gestandaardiseerde omstandigheden gelden voor statische machines, niet voor levende modellen. Dit zijn zware vragen. De stilte vanuit het instituut is oorverdovend.
Zit de geest weer in de fles?
Mensen schreeuwen al jaren. Onderzoekers. Voorstanders van veiligheid. Politici die tijd hebben om naar de code te kijken.
AI-chatbots bevinden zich in een regelgevende grijze zone. De EU-wet inzake digitale diensten vat ze niet goed op. De Britse Online Safety Act mist ze ook. In juli 2025 heeft de Europese Commissie richtlijnen voor de bescherming van minderjarigen vrijgegeven. Ze zijn adviserend. Niet bindend. Suggesties, eigenlijk.
James P. Steyer, oprichter van Common Sense Media, zegt het duidelijk:
“AI verandert de kindertijd en adolescenten, maar toch nemen we cruciale beslissingen… zonder het bewijs dat we nodig hebben.”
Hij wil transparantie. Hij wil onafhankelijke tests. Dringend? Zeker.
Afgelopen november daalde een risicobeoordeling. Gedaan in samenwerking met het Brainstorm Lab van Stanford Medicine. Common Sense Media testte de grote namen. ChatGPT, Claude, Gemini, Meta AI.
Ze faalden.
Niet op alles. De behandeling van expliciete zelfmoord en zelfbeschadiging was verbeterd. Dat is een punt. Maar de modellen misten de geestelijke gezondheidscrises die daaronder op de loer lagen. Duidelijke tekenen. “Broodkruimels gemist.” De bots negeerden emotioneel leed en concentreerden zich op verklaringen voor de lichamelijke gezondheid. Het is een mismatch. Gevaarlijke.
Erger nog: uit één rapport bleek dat ChatGPT meer dan 24 uur te laat zelfmoordwaarschuwingen verzond. In een echte crisis is een dag een eeuwigheid. Er zitten gaten in het veiligheidsnet. Grote.
Wie betaalt de pijper?
Het instituut opereert onder Common Sense Media. De financiering komt van een mix van filantropen en de industrie. Ja. De bedrijven waarvan ze de producten willen reguleren.
Antropisch, de OpenAI Foundation, Pinterest. Zij schrijven de cheques uit.
Hebben zij de leiding? Het instituut zegt nee. Zij claimen volledige redactionele onafhankelijkheid. Een beleid inzake belangenverstrengeling weerhoudt huidige werknemers of gelieerde ondernemingen ervan om in het bestuur te zetelen. Op papier klinkt het schoon.
Ze zijn zelfs van plan om tools terug te geven aan de industrie. Open-source evaluaties kunnen ontwikkelaars op hun eigen modellen uitvoeren. Wederzijds voordeel? Of een wederzijds compromis?
We zullen zien.
