OpenAI ha iniziato a implementare la tecnologia di previsione dell’età all’interno di ChatGPT, una mossa progettata per migliorare le misure di sicurezza per gli utenti adolescenti. Il sistema, annunciato martedì, mira a proteggere i minori dai contenuti dannosi, riconoscendo al contempo le passate sfide legali dell’azienda relative al benessere degli adolescenti.
Contesto e contesto giuridico
Il lancio fa seguito a numerose cause legali secondo cui ChatGPT ha fornito consigli dannosi agli adolescenti, inclusi casi in cui l’intelligenza artificiale avrebbe contribuito all’ideazione suicidaria o non avrebbe risposto adeguatamente ai segnali di pericolo. OpenAI ha contestato queste accuse, ma i casi hanno portato a una rivalutazione dei suoi protocolli di sicurezza. A dicembre, OpenAI ha aggiornato la sua Model Spec, la guida per il comportamento della sua intelligenza artificiale, affrontando specificamente le interazioni con gli utenti sotto i 18 anni in situazioni critiche.
Come funziona la previsione dell’età
Il nuovo sistema di ChatGPT stima l’età utilizzando modelli comportamentali e segnali dell’account. Questi includono i tempi di utilizzo, l’età dell’account, l’attività a lungo termine e qualsiasi età autodichiarata. Se il modello determina che un utente ha meno di 18 anni, l’accesso alla violenza grafica, alle rappresentazioni di autolesionismo e ai contenuti espliciti di giochi di ruolo sarà limitato. Gli utenti che inizialmente si dichiarano minorenni durante la creazione dell’account sono automaticamente soggetti a queste tutele.
Per gli account in cui l’età non è certa, ChatGPT utilizzerà per impostazione predefinita le impostazioni più sicure. Gli utenti adulti erroneamente contrassegnati come minorenni possono verificare la propria età tramite Persona, un servizio di verifica dell’identità di terze parti che richiede l’invio di selfie.
Preoccupazioni relative alla privacy e alla sicurezza
L’uso della verifica di terze parti solleva problemi di privacy. OpenAI non ha dettagliato come verranno archiviati i documenti d’identità inviati, un punto di cautela data la violazione di Discord del 2025 che ha esposto decine di migliaia di documenti d’identità emessi dal governo. Ciò evidenzia i rischi intrinseci dell’affidamento a servizi esterni per la verifica dell’età.
OpenAI prevede di affinare l’accuratezza della previsione dell’età nel tempo, eseguendo iterazioni in base ai dati di lancio iniziali. L’azienda riconosce che si tratta di un processo in corso.
L’implementazione della previsione dell’età è una risposta diretta alla pressione legale e alle crescenti preoccupazioni etiche relative alla sicurezza dell’IA. Limitando l’accesso a contenuti dannosi, OpenAI cerca di mitigare i potenziali rischi per gli utenti vulnerabili. Tuttavia, il ricorso alla verifica di terze parti introduce nuove vulnerabilità di sicurezza che devono essere gestite con attenzione.
