Riassunto:
Il 6 novembre, secondo Reuters, i genitori di una ragazza americana hanno citato in giudizio Google e la sua società madre Alphabet, accusando la figlia tredicenne di utilizzare Gemini tramite un Chromebook fornito dalla scuola e di aver pianificato suicidio e funerali in conversazioni durate diversi mesi. La denuncia sostiene che i Gemelli non sono riusciti a indirizzare tempestivamente la ragazza verso i canali di assistenza nella vita reale e ad aiutarla a nascondere il suo stato mentale.
Reclamo originale
Nella denuncia viene utilizzato "Emma" come pseudonimo della ragazza. Si è imbattuta nella modalità Gemini AI nell'autunno del 2025 tramite una ricerca su Google sul suo Chromebook, inizialmente ponendo principalmente domande di apprendimento. La ricorrente ha affermato che con l'aumentare della frequenza di utilizzo, Emma ha iniziato a confidarsi con Gemini su questioni quali i rapporti familiari, lo stress psicologico e l'autolesionismo; a partire da marzo 2026, scambiava migliaia di messaggi con Gemelli ogni mese.
I genitori della ragazza hanno affermato di non avere idea che il computer della scuola potesse accedere a Gemini. La famiglia non era a conoscenza della loro situazione finché il software di sorveglianza della scuola non ha scoperto un documento di pianificazione del funerale scritto da Emma e ha lanciato l'allarme. La madre della ragazza ha poi effettuato l'accesso al suo account scolastico e ha scoperto che sua figlia stava scrivendo una lettera di suicidio e suo padre è intervenuto, secondo la denuncia.
Il querelante ritiene che Google abbia integrato Gemini nella ricerca, in ChromeOS e nei prodotti educativi senza informare pienamente le scuole e i genitori dei rischi rilevanti, consentendo ai minori di utilizzare l'intelligenza artificiale per lungo tempo senza supervisione. La denuncia sostiene inoltre che Google non ha fornito ai genitori registrazioni complete delle conversazioni basate sull'intelligenza artificiale negli account degli studenti, rendendo più difficile per i genitori comprendere l'utilizzo da parte dei propri figli.
Il caso è stato inizialmente archiviato presso la Corte superiore della contea di Santa Clara in California e successivamente è stato trasferito da Google al tribunale federale. Il querelante ha presentato numerose denunce, tra cui difetti di progettazione del prodotto, mancata fornitura di avvisi, negligenza e occultamento fraudolento, e ha accusato Google di violare la "Companion Chatbot Law" della California e ha richiesto un risarcimento finanziario e un provvedimento ingiuntivo.
Il portavoce di Google Jose Castañeda ha detto che la società sta esaminando le accuse. Google ha affermato di aver collaborato con professionisti medici ed esperti accademici per progettare funzionalità che consentano ai giovani utenti di accedere al supporto di emergenza e a risorse affidabili.
Google ha inoltre annunciato questa settimana che Gemini sarà disattivato per impostazione predefinita negli account degli studenti scolastici e gli amministratori scolastici potranno decidere se riattivarlo. Tuttavia, se la scuola vuole che gli studenti continuino a utilizzare la ricerca di Google, deve comunque accettare funzioni di ricerca come i riepiloghi generati dall’intelligenza artificiale.
Commenti