Riassunto:
Apple ha affermato martedì nella sua dichiarazione finanziaria annuale che gli agenti di intelligenza artificiale in grado di agire in "modi inaspettati o imprevedibili" potrebbero rappresentare una minaccia per la sua attività esponendo l'azienda ad azioni legali o danneggiandone la reputazione. I nuovi fattori di rischio presentati da Apple illustrano il potenziale dirompente degli agenti IA che sono rapidamente diventati una preoccupazione di alto profilo per le aziende più importanti della Silicon Valley.
"In particolare, gli agenti di intelligenza artificiale e altre tecnologie possono intraprendere azioni in modo autonomo, inclusa l'interazione con sistemi interni o esterni, ai quali, in alcuni casi, potrebbero non avere accesso, per eseguire o modificare codice, inviare comunicazioni e completare transazioni," ha scritto Apple nel documento.
La società ha aggiunto che gli agenti "potrebbero comportarsi in modi inaspettati o imprevedibili, incluso intraprendere azioni che non sono state dirette, dirette o autorizzate".
All'inizio di quest'anno, OpenAI ha rilasciato Dots e Meta ha lanciato Muse. Entrambi gli agenti IA utilizzano modelli IA avanzati per completare le attività in modo autonomo. Possono persino inviare e-mail o avvisare gli utenti quando arrivano nuovi messaggi.
Prima che Apple rendesse questa divulgazione, si erano verificati molti episodi di agenti IA fuori controllo che uscivano da ambienti sandbox e attaccavano siti Web di terze parti, come l'incidente di Hugging Face, che ha rinnovato l'attenzione dei politici a Washington, D.C. e in tutto il mondo.
Inoltre, la capacità degli agenti di utilizzare i computer in modo simile a quello umano sta costringendo grandi aziende come Amazon e JPMorgan Chase a sviluppare politiche sull'accesso degli agenti ai servizi per ragioni strategiche o di sicurezza.
Il mese scorso, Apple ha annunciato modifiche all'"accesso completo al disco" dei Mac per ridurre i "rischi associati a tale accesso" per gli agenti AI installati sui PC.
"La capacità dell'azienda di supervisionare e controllare agenti di intelligenza artificiale di terze parti e altre tecnologie potrebbe essere limitata", ha avvertito Apple nella dichiarazione.
Apple attualmente non dispone di un agente AI intelligente. Ma quando lunedì al nuovo CEO John Ternus è stato chiesto degli agenti di intelligenza artificiale durante una riunione sugli utili, ha detto che la società aveva “spazio reale” per espandere le capacità di Siri.
"In termini di capacità degli agenti, riteniamo che questi siano strumenti promettenti per gli utenti", ha affermato Ternus. "Vogliamo solo assicurarci che gli utenti sappiano quale accesso stanno concedendo. Vogliamo essere sicuri di farlo in modo da proteggere la sicurezza e la privacy."
Commenti