Riassunto:
Microsoft ha annunciato nuovi standard di sicurezza e privacy per l'intelligenza artificiale nelle scuole insieme all'American Federation of Teachers (AFT) e alla sua affiliata di New York City, la New York City Union of Teachers (UFT). In base all’accordo, i distretti scolastici che adottano gli standard possono inserire disposizioni nei loro contratti che li renderanno legalmente vincolanti, incluso il non utilizzo dei dati degli studenti o degli insegnanti per addestrare modelli di intelligenza artificiale, la riduzione al minimo della raccolta di dati, la fornitura di un linguaggio semplice alle famiglie su come funzionano gli strumenti, il divieto di implementazione di prodotti complementari di intelligenza artificiale e l’implementazione della revisione umana delle decisioni “ad alto rischio”.
Non molto tempo prima dell'introduzione di questo accordo, due importanti distretti scolastici pubblici di New York e Los Angeles hanno annunciato che avrebbero vietato temporaneamente gli strumenti di intelligenza artificiale per molti studenti per un anno al fine di valutare l'uso ragionevole di tali strumenti nei campus e le necessarie misure di protezione della sicurezza. Mentre crescono le preoccupazioni tra i genitori e alcuni educatori riguardo all’introduzione dell’intelligenza artificiale nelle scuole e all’aumento del tempo trascorso davanti allo schermo per gli studenti, Microsoft spera apparentemente di ridurre la possibilità di un ulteriore inasprimento delle politiche da parte dei distretti scolastici attraverso nuove regole vincolanti.
A partire da novembre, i distretti scolastici avranno la possibilità di aggiungere questi termini agli accordi di partnership Microsoft nuovi o esistenti senza dover rinegoziare l'intero contratto. Uno dei requisiti fondamentali dell'accordo è che Microsoft non deve utilizzare i dati di studenti e insegnanti per la formazione dei modelli; allo stesso tempo, l’azienda deve limitare la quantità di dati grezzi raccolti e spiegare chiaramente alle famiglie degli studenti come i suoi prodotti di intelligenza artificiale elaborano e utilizzano le informazioni rilevanti.
L'American Federation of Teachers è da tempo cauta riguardo all'introduzione della tecnologia educativa nelle scuole, ma non ha rifiutato del tutto la cooperazione con le aziende tecnologiche per aiutare gli insegnanti a far fronte al rapido sviluppo dell'intelligenza artificiale. Randy Weingarten, presidente dell'organizzazione, ha sostenuto a maggio che i dispositivi con schermo dovrebbero essere vietati per gli studenti di età inferiore alla terza elementare e che gli strumenti di intelligenza artificiale per gli studenti non dovrebbero essere utilizzati fino alla scuola media. Tuttavia, AFT aveva anche annunciato in precedenza la creazione di un centro di formazione sull’intelligenza artificiale per educatori, ricevendo un finanziamento totale di 23 milioni di dollari da Anthropic, Microsoft e OpenAI.
Parlando dell'accordo con Microsoft, Weingarten ha affermato che i termini erano "solidi come la roccia" e necessari perché "nessun'altra agenzia, compreso il governo federale, si è fatta avanti per svolgere il lavoro che realmente necessitava di essere svolto". Ritiene che, di fronte ai rischi causati dall’intelligenza artificiale nei campus, il settore dell’istruzione non possa semplicemente esprimere insoddisfazione, ma dovrebbe agire con decisione; qualsiasi impegno privo di applicabilità giuridica è solo una "lista dei desideri".
Commenti