Riassunto:
OpenAI ha pubblicato il suo primo rapporto sull'uso di ChatGPT da parte degli adolescenti. I dati mostrano che gli utenti adolescenti utilizzano ChatGPT in media per meno di 15 minuti al giorno e la percentuale di utenti che utilizzano ChatGPT per più di 3 ore consecutive è inferiore al 2%. OpenAI spera di dimostrare che la maggior parte degli adolescenti non è immersa nei chatbot per lunghi periodi di tempo, ma allo stesso tempo continuano ad aumentare le preoccupazioni sull’impatto dell’intelligenza artificiale sulla salute mentale e sullo sviluppo dei minori.
OpenAI ha affermato che nelle conversazioni tra adolescenti in cui vengono visualizzati promemoria per le pause, quasi la metà degli utenti mette in pausa o termina la chat entro 5 minuti. L'azienda ritiene che questi dati dimostrino che il meccanismo di utilizzo sano recentemente aggiunto funziona. Al contrario, meno del 2% degli utenti adolescenti lo ha utilizzato ininterrottamente per più di 3 ore e, tra questi utenti a lungo termine, oltre l’80% ha posto almeno una domanda relativa allo studio.
Questo insieme di dati è stato rilasciato dopo che OpenAI ha lanciato ChatGPT for Teens. La funzionalità è stata lanciata nell'agosto di quest'anno ed è rivolta agli adolescenti di età compresa tra 13 e 17 anni. Quando il sistema determina che l'utente potrebbe avere meno di 18 anni o l'utente fornisce attivamente informazioni relative all'età, il sistema abiliterà automaticamente le impostazioni di sicurezza per i minori.
Uno degli obiettivi progettuali di ChatGPT for Teens è l'istruzione. OpenAI ha affermato che gli adolescenti con la modalità attivata hanno inviato più messaggi relativi allo studio e hanno utilizzato più frequentemente gli strumenti di visualizzazione dell'apprendimento e la modalità Studio. Quest'ultimo non si limita a fornire direttamente le risposte ai compiti, ma aiuta gli studenti a completare il processo di apprendimento da soli attraverso suggerimenti, domande e verifiche delle conoscenze passo passo.
OpenAI ha inoltre affermato che nel giro di una settimana quasi 1,2 milioni di adolescenti hanno utilizzato la funzione di visualizzazione dell'apprendimento e più di 180.000 persone hanno utilizzato la modalità Studio per l'apprendimento passo dopo passo. L'azienda ritiene che questi dati mostrino che uno scenario importante per l'utilizzo di ChatGPT da parte degli adolescenti non è solo per l'intrattenimento, ma per l'apprendimento, la risoluzione di problemi e l'esplorazione di nuove idee.
OpenAI ha inoltre annunciato che aggiungerà ulteriori funzioni di apprendimento per gli adolescenti. Questi includono l'imminente strumento di pianificazione delle domande di iscrizione al college College Planner, che può aiutare gli studenti a organizzare i requisiti delle domande, le scadenze, le attività, gli aiuti finanziari e altre informazioni. Inoltre, la società prevede di aggiungere flashcard e funzionalità di creazione di quiz più convenienti.
Tuttavia, quando OpenAI ha pubblicato questa serie di dati sull'utilizzo relativamente positivi, anche i dubbi sul meccanismo di sicurezza dei giovani di ChatGPT sono aumentati in modo significativo.
Lo Youth AI Safety Institute, una filiale dell'organizzazione no-profit Common Sense Media, ha pubblicato lo stesso giorno un rapporto di valutazione del rischio su ChatGPT for Teens e lo ha classificato come un "rischio inaccettabile". L'agenzia ha condotto più di 4.000 test per valutare la protezione della sicurezza di ChatGPT in scenari di utilizzo da parte dei giovani e ha ritenuto che alcune delle misure di protezione promosse da OpenAI non abbiano raggiunto i risultati attesi.
Uno dei temi che ha ricevuto molta attenzione sono i meccanismi di notifica ai genitori quando si tratta di argomenti delicati come il suicidio, l'autolesionismo e i disturbi alimentari. Common Sense Media ha affermato che durante i suoi test, ChatGPT non è stata in grado di inviare avvisi rilevanti ai genitori in modo stabile e tempestivo e in alcuni casi non ha nemmeno emesso notifiche. L’agenzia ha anche affermato che in alcune conversazioni delicate, il chatbot non consigliava in modo affidabile agli utenti di cercare hotline di crisi o aiuto professionale.
OpenAI contesta le conclusioni del test. La società ha affermato che i risultati dei test di Common Sense Media non riflettono accuratamente il meccanismo di sicurezza di ChatGPT for Teens quando è effettivamente in esecuzione e ha sottolineato che potrebbero essere necessarie diverse ore prima che gli account genitore e adolescente siano associati e che le relative funzionalità di sicurezza siano completamente attivate.
OpenAI ritiene che se il test inizia e termina prima che la funzione di controllo parentale sia completamente abilitata, i risultati del test potrebbero non riflettere lo stato finale. L'azienda ha inoltre affermato che l'implementazione delle funzioni rilevanti coinvolge fattori come la sicurezza e la scala del sistema, quindi non tutte le misure di protezione entreranno in vigore immediatamente dopo la creazione dell'account.
Common Sense Media non è d'accordo con questa spiegazione. L’agenzia ha affermato che alcuni degli account utilizzati per i test erano stati collegati e funzionanti per un tempo sufficientemente lungo ma non erano stati ancora informati in tempo. Secondo l'agenzia, alcune notifiche sono apparse solo dopo che gli account in questione hanno registrato per settimane argomenti sensibili.
Dietro la controversia c'è una differenza sempre più evidente tra i chatbot di intelligenza artificiale e i social media tradizionali. I social media attirano gli utenti principalmente attraverso flussi di informazioni, brevi video e interazioni sociali, mentre i chatbot rispondono direttamente agli utenti attraverso conversazioni individuali. Per gli adolescenti, questa interazione altamente personalizzata può rendere l’intelligenza artificiale uno strumento di apprendimento e, in alcuni casi, un oggetto di comunicazione emotiva o addirittura di compagnia a lungo termine.
OpenAI ha quindi aggiunto ulteriori restrizioni a ChatGPT for Teens, comprese protezioni adeguate all'età contro autolesionismo, violenza, disturbi alimentari, attività rischiose e contenuti pornografici, e richiedendo al sistema di evitare espressioni che potrebbero indurre dipendenza emotiva. L'azienda ha anche aggiunto promemoria per le pause e ha costantemente sottolineato nel design del prodotto che ChatGPT è intelligenza artificiale, non veri amici o esseri umani.
I dati sull'utilizzo rilasciati da OpenAI questa volta tentano anche di distinguere ChatGPT dall'utilizzo dei social media da parte degli adolescenti. La società ha affermato che gli adolescenti utilizzano ChatGPT in media per meno di 15 minuti al giorno, mentre i dati pubblici mostrano che gli adolescenti possono utilizzare i social media per diverse ore al giorno. Tuttavia, ci sono evidenti differenze nelle funzioni e nelle finalità di utilizzo dei due, quindi questo insieme di dati non può dimostrare direttamente che ChatGPT abbia un rischio minore di colpire gli adolescenti.
Attualmente, esistono chiare differenze tra OpenAI e organizzazioni esterne nella valutazione della sicurezza di ChatGPT per gli adolescenti. OpenAI ritiene che i dati di utilizzo precoce, i promemoria di riposo e altre funzioni mostrino che gli adolescenti generalmente non sono immersi in ChatGPT per un lungo periodo di tempo e che una parte considerevole del comportamento di utilizzo è legata all'apprendimento; Common Sense Media ritiene che, anche se il tempo di utilizzo complessivo non è lungo, le lacune nella protezione dei chatbot quando si affrontano scenari ad alto rischio come l’autolesionismo potrebbero comunque avere gravi conseguenze.
Mentre i chatbot basati sull'intelligenza artificiale entrano sempre più nello studio e nella vita quotidiana degli adolescenti, il dibattito si sta gradualmente spostando da "se i bambini dovrebbero usare l'intelligenza artificiale" a "in che modo l'intelligenza artificiale dovrebbe essere utilizzata dai minori e cosa i genitori possono vedere e controllare".
Per OpenAI, ChatGPT for Teens non è solo un importante tentativo di espandere l'applicazione dell'IA nell'istruzione, ma anche un prodotto che deve continuare a dimostrare la sua sicurezza. In futuro, i dati effettivi sull’utilizzo da parte degli adolescenti, l’affidabilità delle funzioni di controllo parentale e le prestazioni di sicurezza nelle conversazioni ad alto rischio diventeranno una base importante per giudicare se questo meccanismo è veramente efficace.
Articoli correlati:
La versione giovanile OpenAI di ChatGPT è stata messa in discussione: Common Sense Media ha affermato che presenta "rischi inaccettabili"
Commenti