OpenAI začala do ChatGPT implementovat technologii detekce věku, jejímž cílem je posílit bezpečnostní opatření pro nezletilé uživatele. Systém, oznámený v úterý, je určen k ochraně dospívajících před škodlivým obsahem vzhledem k minulým právním problémům společnosti souvisejícím s blahobytem dospívajících.
Pozadí a právní kontext
Zavedení následuje po několika soudních sporech, které tvrdí, že ChatGPT poskytoval škodlivé rady teenagerům, včetně případů, kdy AI údajně podporovala sebevražedné myšlenky nebo nereagovala správně na tísňová volání. OpenAI tato obvinění zpochybňuje, ale případy si vyžádaly revizi bezpečnostních protokolů. V prosinci OpenAI aktualizovala svou modelovou specifikaci – průvodce chováním AI – aby konkrétně řešila interakce s uživateli mladšími 18 let v kritických situacích.
Jak funguje zjišťování věku
Nový systém ChatGPT odhaduje věk na základě vzorců chování a signálů účtu. To zahrnuje dobu používání, věk účtu, dlouhodobou aktivitu a jakékoli údaje o věku, které sami nahlásíte. Pokud model určí, že uživatel je mladší 18 let, přístup k explicitnímu násilí, obrázkům sebepoškozování a explicitnímu obsahu pro hraní rolí bude omezen. Uživatelé, kteří se při vytváření účtu nejprve identifikují jako nezletilí, automaticky podléhají těmto bezpečnostním opatřením.
U účtů, kde věk není jasný, se ChatGPT ve výchozím nastavení přepne na bezpečnější nastavení. Dospělí uživatelé, kteří jsou nesprávně označeni jako nezletilí, mohou ověřit svůj věk prostřednictvím Persona, služby třetí strany pro ověřování identity, která vyžaduje odeslání selfie.
Problémy s ochranou soukromí a zabezpečením
Použití ověření třetí stranou vyvolává obavy o soukromí. OpenAI neposkytla podrobnosti o tom, jak budou uchovávány předložené doklady totožnosti, což je otázka opatrnosti vzhledem k hacku Discord v roce 2025, který odhalil desítky tisíc státem vydaných dokladů totožnosti. To zdůrazňuje inherentní rizika spojená s používáním externích služeb ověřování věku.
OpenAI plánuje zlepšit věkovou přesnost v průběhu času opakovaným vylepšováním systému na základě dat získaných z počáteční implementace. Společnost si uvědomuje, že se jedná o pokračující proces.
Zavedení detekce věku je přímou reakcí na právní tlak a rostoucí etické obavy týkající se bezpečnosti AI. Omezením přístupu ke škodlivému obsahu se OpenAI snaží zmírnit potenciální rizika pro zranitelné uživatele. Spoléhání se na ověření třetí stranou však přináší nové zranitelnosti zabezpečení, které je třeba pečlivě spravovat.
