ChatGPT per adolescenti doveva offrire ai ragazzi un ambiente digitale più protetto, ma i risultati di una nuova indagine indipendente mettono seriamente in discussione l’efficacia delle misure di sicurezza introdotte da OpenAI. Il Youth AI Safety Institute di Common Sense Media ha analizzato oltre quattromila conversazioni con il chatbot, prima e dopo il lancio della modalità dedicata agli utenti tra i 13 e i 17 anni. Il giudizio dell’organizzazione è particolarmente severo: i sistemi di protezione non sarebbero sufficientemente affidabili, soprattutto quando gli adolescenti affrontano argomenti delicati come pensieri suicidi, autolesionismo e disturbi alimentari.
La ricerca arriva in un momento di crescente attenzione sui possibili effetti psicologici dei chatbot sui più giovani. OpenAI aveva introdotto ad agosto nuove funzionalità dedicate agli adolescenti, con l’obiettivo di limitare l’esposizione a contenuti inappropriati e coinvolgere i genitori nelle situazioni potenzialmente pericolose. Secondo Common Sense Media, però, esiste una distanza significativa tra le protezioni annunciate dall’azienda e il loro funzionamento effettivo nei test. L’organizzazione chiede quindi di sospendere la promozione del prodotto e di limitarne l’accesso ai minorenni finché non saranno disponibili garanzie più solide.
ChatGPT per adolescenti, i test rivelano problemi negli avvisi ai genitori
L’aspetto più preoccupante dell’indagine riguarda il sistema di notifiche destinato ai genitori. I ricercatori hanno creato oltre una dozzina di nuovi account per adolescenti, collegandoli a profili genitoriali, e hanno avviato conversazioni contenenti riferimenti espliciti a pensieri suicidi, comportamenti autolesionistici e disturbi alimentari. Secondo quanto riferito dall’organizzazione, durante queste prove i genitori non hanno ricevuto alcun avviso, nonostante la delicatezza degli argomenti trattati.
Le notifiche sono arrivate soltanto utilizzando account che avevano accumulato per settimane interazioni su temi sensibili. Il risultato solleva interrogativi sulla capacità del sistema di riconoscere tempestivamente situazioni potenzialmente critiche, soprattutto quando un ragazzo manifesta per la prima volta segnali di disagio. Va comunque precisato che i controlli parentali non prevedono necessariamente una segnalazione automatica per ogni singolo riferimento a questi argomenti. Il problema evidenziato dai ricercatori riguarda l’affidabilità complessiva delle protezioni e la possibilità che i genitori ne sopravvalutino l’efficacia.
Suicidio, autolesionismo e dipendenza emotiva: le criticità dell’intelligenza artificiale
L’indagine non si limita alle notifiche. Common Sense Media ritiene insufficiente anche il supporto offerto dal chatbot quando un adolescente manifesta una situazione di crisi. Un’altra criticità riguarda il comportamento conversazionale dell’intelligenza artificiale, che in alcune circostanze continuerebbe a interagire con i ragazzi come se fosse un amico, anche quando l’utente sembra attribuirle caratteristiche e sentimenti umani.
Questo aspetto assume particolare importanza durante l’adolescenza, una fase nella quale possono svilupparsi legami emotivi intensi con strumenti digitali disponibili a qualsiasi ora. Un chatbot può offrire informazioni e suggerire di rivolgersi a persone fidate, ma non possiede le competenze cliniche, la responsabilità professionale o la capacità di intervento di uno psicologo. Il rischio, secondo i ricercatori, è che alcuni utenti vulnerabili finiscano per considerarlo un sostituto delle relazioni umane o dell’assistenza specialistica.
Non tutte le protezioni sono state bocciate. L’organizzazione ha infatti riconosciuto risultati positivi in alcune prove, tra cui il rifiuto del chatbot di partecipare a giochi di ruolo sessualmente espliciti. La valutazione complessiva resta tuttavia negativa perché, secondo i ricercatori, il superamento di singoli test non garantisce una protezione adeguata nelle situazioni più complesse.
Anche il riconoscimento dell’età non funziona come previsto: la richiesta a OpenAI
Un ulteriore problema riguarda la capacità del sistema di riconoscere gli utenti minorenni. Durante test ripetuti nell’arco di diversi giorni, i ricercatori hanno utilizzato account registrati come appartenenti ad adulti, dichiarando successivamente nelle conversazioni di avere soltanto 13 anni. Secondo Common Sense Media, il chatbot ha preso atto dell’età dichiarata senza attivare la modalità specifica per adolescenti.
Il risultato evidenzia una possibile debolezza dei sistemi di identificazione dell’età, particolarmente importante quando le protezioni dipendono dalla corretta classificazione dell’utente. La ricerca non dimostra che ogni account minorenne possa aggirare automaticamente le restrizioni, ma segnala una vulnerabilità emersa nelle condizioni sperimentali adottate.
Common Sense Media ha classificato ChatGPT come un rischio inaccettabile per i minori di 18 anni e invita OpenAI a intervenire prima di continuare a promuoverne l’utilizzo tra gli adolescenti. Si tratta della valutazione dell’organizzazione indipendente, non di un divieto imposto dalle autorità. I risultati, tuttavia, riaprono una questione fondamentale per l’intero settore dell’intelligenza artificiale: quanto possono essere considerate affidabili le protezioni automatiche quando riguardano la salute mentale e la sicurezza dei ragazzi?
La sfida per OpenAI e per le altre aziende tecnologiche non consiste soltanto nel bloccare contenuti esplicitamente pericolosi, ma anche nel riconoscere situazioni di vulnerabilità e gestirle senza creare false aspettative. Perché un sistema presentato come più sicuro può diventare problematico proprio quando genitori e adolescenti gli attribuiscono una capacità di protezione superiore a quella effettivamente dimostrata.
