úterý. Parlament Dánska. Sál je plný očekávání. Ze stínu vystupuje nový institut připravený ovládat umělou inteligenci v oblasti dětských produktů. Margrethe Vesergeirová je v centru pozornosti. Bývalý místopředseda Evropské komise si pro fotografie nepřišel. Je jednou ze spoluorganizátorek. Deset let se věnovala regulaci činnosti velkých technologických korporací. Nyní svou politickou váhu využívá k něčemu cílenějšímu. Pikantnější.
Co je podstatou návrhu? Představte si nezávislé hodnocení nárazových testů pro automobily. Koupíte si auto, protože se nerozbilo na kusy na zkušebním poli. Rodiče by měli přezkoumat umělou inteligenci stejným způsobem, než ji umožní svým dětem používat. Alespoň tak zní oficiální stanovisko.
Ale počkej. Jak crash test chatbota?
Ústav zatím nemluví. Mechanika procesu nebyla vysvětlena. Je možné skutečně „crash testovat“ algoritmus, který se neustále aktualizuje? Takový, který se chová odlišně v závislosti na kontextu? Standardizované podmínky jsou určeny pro statické stroje, nikoli „živé“ modely. Tyto otázky vyžadují seriózní odpovědi. Ticho ústavu je ohlušující.
Vrátí se džin do láhve?
Lidé kvůli tomu křičeli už roky. Výzkumníci. Advokáti bezpečnosti. Politici, kteří měli čas porozumět kodexu.
AI chatboti jsou v regulační šedé zóně. Zákon EU o digitálních službách (DSA) je nepokrývá dobře. Britský zákon o online bezpečnosti (OSA) je také ignoruje. V červenci 2025 vydala Evropská komise pokyny k ochraně nezletilých. Mají poradní charakter. Není vyžadováno. Ve skutečnosti jsou to jen přání.
James P. Steyer, zakladatel Common Sense Media, to říká na rovinu:
„AI mění dětství a dospívání, ale my děláme kritická rozhodnutí… bez potřebné důkazní základny.“
Požaduje transparentnost. Chce nezávislé testování. Spěchá to? Určitě ano.
Výsledky hodnocení rizik byly zveřejněny loni v listopadu. Studie byla provedena ve spolupráci s Brainstorm Lab ve Stanford Medical Center. Common Sense Media testovala největší platformy. ChatGPT, Claude, Blíženci, Meta AI.
Neuspěli.
Ne ve všem. Zlepšilo se vyřizování žádostí o zjevnou sebevraždu a sebepoškozování. To je plus. Modely ale nezachytily skryté krize duševního zdraví. Jasné známky. “Zmeškané stopy.” Boti ignorovali emocionální stres a zaměřili se na vysvětlení fyzických aspektů zdraví. To je rozpor. Nebezpečný nesoulad.
Aby toho nebylo málo, jedna zpráva zjistila, že ChatGPT posílal varování o sebevraždě s více než 24hodinovým zpožděním. Ve skutečné krizové situaci je den věčnost. V bezpečnostním systému jsou díry. Obrovské díry.
Kdo platí za hudbu?
Institut funguje v rámci Common Sense Media. Financování pochází od směsice filantropů a zástupců průmyslu. Ano. Od firem, jejichž produkty chtějí regulovat.
Anthropic, OpenAI Foundation, Pinterest. Jsou to oni, kdo vypisuje šeky.
Diktují podmínky? Ústav říká, že ne. Vyhlašují úplnou redakční nezávislost. Politika střetu zájmů neumožňuje současným zaměstnancům nebo přidruženým společnostem působit v představenstvu. Na papíře to vypadá čistě.
Dokonce plánují vrátit nástroje do samotného průmyslu. Otevřená hodnocení, která mohou vývojáři spustit na svých vlastních modelech. Vzájemný prospěch? Nebo vzájemný ústupek?
Uvidíme.
