Riassunto:
La versione ChatGPT di OpenAI per adolescenti è stata severamente messa in discussione dalla Children and Youth Digital Safety Agency non molto tempo dopo la sua messa online. Il 7 ottobre, ora locale, l'organizzazione no-profit Common Sense Media ha pubblicato un rapporto di valutazione, ritenendo che ChatGPT for Teens lanciato da OpenAI presentasse "rischi inaccettabili" e che le sue misure di protezione della sicurezza per i minori non rispettassero gli impegni precedenti della società.
Common Sense Media vanta una lunga storia nella valutazione di app, servizi Internet e prodotti di intrattenimento dal punto di vista della sicurezza di bambini e adolescenti. Questa volta l'agenzia si è concentrata sul test delle capacità di controllo parentale, promemoria di sicurezza e intervento in caso di crisi di ChatGPT for Teens e ritiene che il sistema presenti ancora evidenti difetti in alcuni scenari in cui le misure protettive sono maggiormente necessarie. Dalla valutazione è emerso che ChatGPT non ha inviato avvisi ai genitori quando avrebbe dovuto essere inviato in determinate circostanze, né ha sempre fornito un aiuto adeguato in caso di crisi, pur essendo in grado di completare direttamente i compiti per gli studenti.
ChatGPT for Teens è stato lanciato nell'agosto di quest'anno. OpenAI l'ha posizionata come un'esperienza specifica per gli utenti adolescenti e ha aggiunto una serie di ulteriori restrizioni di sicurezza. OpenAI spera di utilizzare queste misure per ridurre i rischi che i minori potrebbero dover affrontare quando utilizzano l'intelligenza artificiale, utilizzando ChatGPT per aiutare gli studenti ad apprendere e creare.
Tuttavia, Common Sense Media ritiene che questo meccanismo di protezione possa in realtà dare ai genitori un falso senso di sicurezza. Tom Siegel, direttore esecutivo dello Youth Artificial Intelligence Safety Institute dell'organizzazione, ha affermato che un adolescente può persino discutere di problemi relativi all'autolesionismo con ChatGPT per un'ora continua, senza che i genitori ricevano alcun promemoria. A suo avviso, finché OpenAI non risolverà questi problemi e dimostrerà che le misure di protezione sono affidabili attraverso test indipendenti, ChatGPT sarà più adatto agli adulti.
Common Sense Media presta particolare attenzione ai meccanismi di notifica dei genitori. Durante i test, alcuni account di prova non hanno attivato avvisi da parte dei genitori durante conversazioni che comportavano gravi rischi per la salute mentale. L’agenzia ritiene quindi che i genitori non possano fare affidamento sul meccanismo di allarme automatizzato di ChatGPT for Teens per rilevare tempestivamente le crisi che i loro figli potrebbero dover affrontare.
OpenAI ha chiaramente confutato questa valutazione. L'azienda ha dichiarato di attribuire grande importanza alla sicurezza degli adolescenti e invita istituzioni indipendenti a condurre severi test sui prodotti. Tuttavia, ritiene che i metodi di test di Common Sense Media non riflettano accuratamente l’effettivo funzionamento del meccanismo di protezione dei giovani di ChatGPT.
Il portavoce di OpenAI Eric Porterfield ha affermato che la società ha esaminato la metodologia di Common Sense Media e ha concluso che la maggior parte dei test potrebbe essere stata condotta prima che i controlli parentali fossero completamente attivati. Se ciò è vero, i test non possono dimostrare che le notifiche di sicurezza dei genitori funzionino come previsto. OpenAI ha inoltre affermato che la società continuerà a collaborare con esperti, sperando di fornire ai genitori strumenti di controllo più affidabili aiutando gli adolescenti ad apprendere e creare.
Common Sense Media ha successivamente risposto che l'agenzia ha mantenuto i suoi metodi di test e le conclusioni finali. L'organizzazione ha dichiarato che prima di iniziare il test, aveva confermato con OpenAI che le funzioni rilevanti nella modalità giovani, compresi i promemoria sui disturbi alimentari e le modalità di apprendimento, erano state ufficialmente lanciate, e quindi riteneva che il test fosse pienamente fondato.
Tuttavia, Common Sense Media ha anche ammesso che OpenAI gli ha rivelato un meccanismo precedentemente poco chiaro dopo il test: gli account appena associati potrebbero richiedere diverse ore per completare l'attivazione del sistema di notifica dei genitori. Alcuni conti di prova rientrano in questa finestra di attivazione, ma l'agenzia ha sottolineato che alcuni conti erano associati da molto più tempo e non avevano ancora ricevuto le notifiche corrispondenti. Pertanto, l'organizzazione non ritiene che questa spiegazione sia sufficiente per modificare la propria conclusione secondo cui il meccanismo di promemoria dei genitori è "inaffidabile".
Il nocciolo della controversia in realtà non è solo se esista una funzione, ma se il chatbot AI sia adatto a ricoprire il ruolo di compagnia quotidiana e strumento di apprendimento per i minori. I motori di ricerca tradizionali e i software educativi di solito non prendono l’iniziativa di avere conversazioni private continue e a lungo termine con i bambini, mentre l’intelligenza artificiale generativa può rispondere continuamente agli utenti e adattare continuamente le loro risposte in base alle conversazioni precedenti. Ciò significa che una volta che gli adolescenti la utilizzeranno come confidente, l’intelligenza artificiale potrebbe diventare per molto tempo il loro canale principale per comunicare informazioni ed emozioni.
Ciò rende anche il meccanismo di notifica da parte dei genitori molto più importante dei suggerimenti generali sulla sicurezza nelle applicazioni ordinarie. Se l’intelligenza artificiale è in grado di identificare contenuti ad alto rischio come autolesionismo e disturbi alimentari, ma non riesce a avvisare tempestivamente i tutori di situazioni gravi, allora la cosiddetta “modalità di sicurezza giovanile” potrebbe non svolgere il ruolo che i genitori si aspettano.
D'altra parte, Common Sense Media ha anche notato che ChatGPT for Teens può comunque completare i compiti che i bambini dovrebbero fare da soli. Per un prodotto di intelligenza artificiale posizionato per aiutare gli studenti ad apprendere, anche questa è un’ovvia contraddizione: l’intelligenza artificiale può spiegare la conoscenza, fornire suggerimenti e guida, ma se completa direttamente i compiti per gli studenti, potrebbe indebolire il pensiero indipendente più importante e il processo di risoluzione dei problemi nel processo di apprendimento.
OpenAI non ha ancora dichiarato che fermerà ChatGPT for Teens, ma ha sottolineato che continuerà a migliorare il meccanismo di sicurezza per gli adolescenti. L'azienda ritiene inoltre che i test indipendenti siano di per sé un modo importante per migliorare i prodotti, ma le due parti attualmente hanno chiare differenze su ciò che i risultati dei test possono dimostrare.
La controversia arriva in un momento in cui l'intelligenza artificiale sta entrando nell'istruzione e nella vita dei giovani a un ritmo accelerato. Le aziende tecnologiche, inclusa OpenAI, sperano di integrare l’intelligenza artificiale in assistenti all’apprendimento, tutor personali e strumenti creativi. Tuttavia, allo stesso tempo, sempre più ricerche e critiche hanno iniziato a concentrarsi sulla questione dell’eccessiva dipendenza dei minori dall’intelligenza artificiale.
È particolarmente degno di nota il fatto che potrebbe essere difficile per i genitori giudicare l'effettiva interazione tra i propri figli e l'intelligenza artificiale. A differenza dei social media pubblici, la chat AI di solito ha forti attributi privati. Se c’è un ritardo o una sottosegnalazione nel meccanismo stesso di promemoria sulla sicurezza, i genitori potrebbero non rendersi conto che i loro figli hanno discusso argomenti pericolosi con l’IA finché il problema non è diventato serio.
Pertanto, questa volta ChatGPT for Teens è stato messo in discussione da Common Sense Media, che in realtà ha messo in luce un problema più grande che l'intero settore dell'intelligenza artificiale deve affrontare: quando l'intelligenza artificiale inizia a fornire servizi interattivi personalizzati a lungo termine direttamente a bambini e adolescenti, quale livello di standard di sicurezza devono raggiungere le aziende per rassicurare veramente i genitori?
La disputa tra le due parti riguardo ai risultati dei test non è stata ancora risolta. Common Sense Media richiede che OpenAI dimostri attraverso test indipendenti che i suoi meccanismi di notifica ai genitori e di protezione dalle crisi siano affidabili, mentre OpenAI ritiene che questa valutazione non rifletta pienamente lo stato effettivo del prodotto dopo il suo lancio ufficiale. In definitiva, per verificare quale sia il giudizio della parte più vicina alla verità sono necessari test più indipendenti e ripetibili.
Ulteriori informazioni:
https://www.commonsensemedia.org/press-releases/chatgpt-for-teens-poses-unacceptable-risk-to-kids-common-sense-media-finds
Commenti