Riassunto:
Secondo Reuters, Tom Siegel, fondatore del team Trust and Safety di Google, questa settimana ha chiesto un rallentamento nello sviluppo dell'intelligenza artificiale e ha avvertito che l'industria tecnologica sta ripetendo gli errori dell'era dei social media e potrebbe causare danni maggiori ai bambini.
Segal
Le società di social media stanno ora pagando ingenti risarcimenti e affrontando migliaia di cause legali con l'accusa di aver danneggiato i giovani utenti. Nel frattempo, i governi di tutto il mondo stanno lavorando per limitare l’accesso dei minori alle piattaforme di social media.
Reuters ha riferito in esclusiva di un documento di politica interna di Meta lo scorso anno. Il documento afferma che il suo chatbot potrebbe "impegnarsi in conversazioni romantiche o erotiche con i bambini", spingendo un'indagine del Congresso. Ciononostante, le misure normative non hanno tenuto il passo con il rapido sviluppo dell’intelligenza artificiale.
Segal, che è stato vicepresidente per la fiducia e la sicurezza di Google, ha dichiarato a Reuters: "Ci troviamo in una pessima situazione in questo momento in termini di impatto che l'intelligenza artificiale sta avendo sui bambini. L'idea che l'industria possa risolvere il problema da sola senza un aiuto esterno non è realistica."
Le sue preoccupazioni riflettono un timore crescente tra alcuni operatori del settore tecnologico e ricercatori accademici: l'intelligenza artificiale rappresenta una minaccia più grave per i bambini rispetto ai social media. Ora, l’industria sta correndo per aggiungere funzionalità sempre più avanzate ai chatbot e milioni di giovani stanno già utilizzando questi bot quotidianamente.
Segal ha annunciato martedì di essersi unito a Common Sense Media, un gruppo di difesa della sicurezza online dei bambini. L'organizzazione no-profit, fondata nel 2003, conduce ricerche e valuta l'adeguatezza dei vari media per i bambini. A maggio, l’organizzazione ha fondato lo Youth AI Safety Institute, un’organizzazione di ricerca progettata per valutare l’uso dell’intelligenza artificiale da parte dei bambini, e Siegel sarà il primo direttore esecutivo dell’istituto. Anthropic e OpenAI Foundation, l'organizzazione no-profit che controlla OpenAI, sono sostenitori dell'istituto.
Segal ha affermato che intende sviluppare standard per responsabilizzare le aziende di intelligenza artificiale e spera di collaborare con queste aziende e organizzazioni terze per raggiungere questo obiettivo.
In precedenza ha lavorato presso Google dal 2004 al 2019, ma in seguito ha lasciato Google ritenendo che la capacità del settore tecnologico di creare uno spazio online sicuro per i consumatori avesse "raggiunto un collo di bottiglia". Ha poi co-fondato TrustLab, una startup che sviluppa strumenti per aiutare le aziende a identificare le minacce alla sicurezza. All’inizio di questo mese si è dimesso dalla carica di amministratore delegato per assumere un nuovo ruolo.
Siegel ha affermato che attualmente le principali aziende di intelligenza artificiale stanno lanciando varie funzioni per i bambini senza stabilire adeguate misure di protezione della sicurezza.
"Penso che stiamo affrontando un rischio molto, molto serio", ha affermato. Siegel ha affermato che ci sono misure che le aziende di intelligenza artificiale possono intraprendere immediatamente per proteggere meglio i giovani, citando rischi che vanno dal suicidio e dalla follia allo “scaricamento cognitivo”. Il cosiddetto scarico cognitivo si riferisce al declino delle capacità di pensiero critico causato dal fare affidamento sull’intelligenza artificiale per rispondere alle domande.
Anthropic e OpenAI potrebbero implementare misure di verifica dell'età più rigorose per impedire ai minori di utilizzare i loro chatbot, ha affermato. Ha anche affermato che il suo ex datore di lavoro, Google, potrebbe aggiungere l’opzione per disattivare la panoramica e la modalità AI nel suo motore di ricerca, proprio come attualmente fornisce un interruttore per consentire agli utenti di filtrare i contenuti pornografici.
Segal ha aggiunto che, sebbene queste misure possano incidere sull'utilizzo o sui profitti nel breve termine, le aziende di intelligenza artificiale che non agiscono si troveranno ad affrontare il rischio di azioni legali e normative, che potrebbero colpire più gravemente la loro attività.
In risposta alle osservazioni di Siegel, un portavoce di Google ha affermato che i genitori possono disattivare completamente l'accesso dei propri figli ai motori di ricerca attraverso apposite funzioni di controllo. Il portavoce ha affermato: "Le nostre funzionalità di ricerca tramite intelligenza artificiale rappresentano un modo efficace per consentire a bambini e adolescenti di apprendere, esplorare e comprendere le informazioni e il mondo."
Un portavoce di OpenAI ha affermato che oltre all'età dichiarata dagli utenti, l'azienda utilizza anche "segnali comportamentali e di account" per identificare gli utenti minorenni. "Sebbene nessun metodo di verifica dell'età sia perfetto, continuiamo a testare e migliorare questi sistemi, inclusa la prevenzione dei tentativi di aggirare le protezioni di sicurezza", ha affermato il portavoce.
Commenti