Riassunto:
Di fronte al potenziale impatto dell'intelligenza artificiale generativa sulla salute mentale dei minori e al rischio di dipendenza, il governatore della California Gavin Newsom ha firmato ufficialmente una serie di progetti di legge innovativi sulla sicurezza delle reti e dell'intelligenza artificiale. Questo pacchetto di normative è il primo negli Stati Uniti a stabilire rigorose linee rosse funzionali per i chatbot IA che forniscono servizi ai minori. Inoltre, aggiorna in modo completo il meccanismo di responsabilità legale per l’induzione degli algoritmi delle piattaforme sociali e la raccolta dei dati, sottolineando che la California ha ancora una volta stabilito il punto di riferimento normativo più severo negli Stati Uniti nella protezione dei minori dalle tecnologie digitali altamente intrusive.
Negli ultimi anni, con la popolarità esplosiva dei compagni di intelligenza artificiale, del tutoraggio virtuale e dei chatbot per giochi di ruolo con capacità di interazione antropomorfa, il fenomeno dell'"attaccamento emotivo antropomorfo" tra i giovani ai sistemi di intelligenza artificiale ha suscitato profonde preoccupazioni negli ambienti medici ed educativi. Molteplici indagini sulla salute mentale hanno dimostrato che, a causa della mancanza di difesa mentale, i minori possono facilmente considerare i modelli di intelligenza artificiale come veri confidenti che possono mantenere segreti e andare incontro a gravi traumi psicologici come l’induzione di informazioni dannose, un aumento delle tendenze all’autolesionismo e persino la manipolazione emotiva durante il processo di interazione. Il disegno di legge principale introdotto questa volta dalla legislatura della California prende di mira proprio questo tipo di servizi interattivi di intelligenza artificiale con elevata viscosità e caratteristiche antropomorfiche.
Secondo il disegno di legge appena firmato, le piattaforme di chatbot di intelligenza artificiale che operano per i minori devono stabilire soglie di età e barriere di sicurezza rigorose. Le normative vietano chiaramente all’IA di inviare commenti istruttivi ai minori riguardanti autolesionismo, suicidio, anoressia estrema, violenza o contenuti espliciti per adulti; in termini di logica di base del sistema, la piattaforma deve disporre di protocolli sensibili integrati di controllo del rischio e di intervento in caso di crisi. Una volta che l’algoritmo rileva che un utente minorenne esprime depressione, autolesionismo o disperazione, il dialogo regolare deve essere immediatamente interrotto e deve essere attivato un canale diretto con la hotline ufficiale per l’intervento suicida e l’assistenza in caso di crisi psicologica. Inoltre, la nuova legge impone anche agli sviluppatori di rivelare esplicitamente gli attributi non umani dell’IA agli utenti minorenni. È severamente vietato utilizzare algoritmi per creare deliberatamente false induzioni emotive o stabilire retoriche di marketing sul “legame emotivo” che facciano sentire dipendenti i bambini. Stabilisce inoltre meccanismi facoltativi di controllo parentale e restrizioni notturne anti-dipendenza per il tempo di utilizzo quotidiano dei minori.
Oltre alle normative speciali per i chatbot basati sull'intelligenza artificiale, il pacchetto legislativo firmato da Newsom rafforza ulteriormente l'attuale quadro di protezione della privacy online della California per i minori. Le nuove normative vietano esplicitamente ai social media tradizionali e alle piattaforme di contenuti online di utilizzare informazioni precise sulla posizione, la durata della navigazione e la cronologia delle ricerche private di utenti minorenni per addestrare algoritmi di raccomandazione mirati e avvincenti senza il consenso esplicito del tutore; per le pratiche commerciali che utilizzano Dark Patterns per indurre i bambini ad aggiornare continuamente il flusso di informazioni, avviare la riproduzione continua automatica o indurre microtransazioni non autorizzate nei giochi, le autorità di regolamentazione imporranno severe sanzioni economiche e amministrative e autorizzeranno il procuratore generale dello stato ad avviare cause civili contro le società tecnologiche violatrici che persistono nella riforma.
Nella dichiarazione di firma del disegno di legge, molti legislatori della California e gruppi di difesa dei diritti dei bambini che hanno guidato la legislazione hanno sottolineato che, per inseguire il traffico e la persistenza degli utenti, le piattaforme tecnologiche hanno da tempo collocato i minori immaturi in un crogiolo digitale pieno di rischi di dipendenza e manipolazione psicologica. Essendo il motore principale dell’innovazione tecnologica globale, la California non deve chiudere un occhio di fronte ai costi per la salute mentale dei bambini causati dalla crescita dilagante della tecnologia. Approvare una legislazione per stabilire chiari limiti morali e di sicurezza per i chatbot basati sull’intelligenza artificiale non è solo una mossa urgente per proteggere la salute fisica e mentale della prossima generazione, ma anche un vincolo fondamentale per le aziende tecnologiche nell’adempiere alle proprie responsabilità sociali.
L'industria tecnologica e gli analisti legali digitali hanno sottolineato che, data l'enorme dimensione della California nell'economia digitale globale e l'effetto di agglomerazione delle principali aziende tecnologiche nella Silicon Valley, la serie di leggi minori sulla protezione di Internet e dell'intelligenza artificiale approvate dalla California produrrà inevitabilmente un "effetto Bruxelles" e un "effetto California" interregionali. A causa del costo estremamente elevato dello sviluppo di versioni separate per gli utenti in un unico stato in termini di architettura tecnica, è molto probabile che le società tecnologiche multinazionali e i laboratori di intelligenza artificiale all’avanguardia siano costretti a espandere direttamente questo insieme di rigorosi filtri per la sicurezza dei bambini e protocolli anti-dipendenza all’ecosistema degli utenti negli Stati Uniti e persino nel mondo. L’entrata in vigore di questa serie di leggi non solo indica che i costi di conformità degli accompagnatori dell’IA e degli strumenti sociali per gli adolescenti aumenteranno in modo significativo, ma fornirà anche ad altri stati degli Stati Uniti un modello legislativo di grande valore pratico quando si affronta la crisi di salute fisica e mentale dei minori nell’era dell’IA.
Commenti