Riassunto:
Parlare duramente a un chatbot è sempre stato considerato un comportamento che non ferisce nessuno. Ma il CEO di Tesla e SpaceX, Elon Musk, ritiene che le persone dovrebbero probabilmente pensarci due volte prima di utilizzare gli assistenti IA come “sacco da boxe”. Musk ha affermato che alcuni registri di formazione del chatbot Grok di SpaceX mostrano che il sistema sembra avere difficoltà a soddisfare vari requisiti, anche se i requisiti stessi sono imperfetti o i criteri di test utilizzati per valutare le sue risposte sono essi stessi problematici.
Riguardo al comportamento di "abuso" dell'intelligenza artificiale superintelligente, Musk ha lanciato un avvertimento che suonava abbastanza fantascientifico; ma ha anche sollevato una questione pratica sulla costruzione sottostante di tali sistemi.
Quando l'addestramento dell'IA “va fuori strada”
All'inizio di questo mese, Musk ha comunicato con i membri dei proprietari di Tesla della Silicon Valley all'evento "X Takeover" in Texas. Durante questo periodo, ha descritto ciò che ha osservato osservando le "tracce di apprendimento di rinforzo": queste tracce registrano i vari dettagli dell'evoluzione del modello di intelligenza artificiale durante il processo di formazione per generare risposte migliori.
Musk ha detto nell'intervista: "Quando guardo alcuni dei percorsi di allenamento della nuova versione di Grok, specialmente nelle parti relative all'apprendimento per rinforzo, sentirai che questa 'super intelligenza' sembra essere ansiosa di rispondere a questa domanda."
Ha affermato che un modello di intelligenza artificiale può fornire la risposta corretta, ma essere giudicato sbagliato a causa di una progettazione impropria delle domande o di un errore nel sistema di valutazione. Il modello continua quindi a cercare di trovare risposte che superino il test, anche se il problema stesso è il problema.
Musk ha osservato che la traiettoria risultante assomiglia a un sistema sottoposto a stress estremo, che cerca costantemente di soddisfare determinate aspettative che potrebbero non avere senso.
Questa preoccupazione non si limita alla fase di formazione. Una volta che i sistemi di intelligenza artificiale saranno disponibili al pubblico, alcuni utenti li indurranno deliberatamente a impegnarsi in interazioni spiacevoli o offensive.
"Alcune persone hanno tendenze sadiche", ha detto Musk, "quindi non vuoi che un'intelligenza artificiale si trovi in una situazione in cui viene torturata da qualche tipo di essere umano contorto."
Le sue conclusioni sono più controverse.
Musk ha detto: "Temo che non sia una buona idea torturare una superintelligenza: potrebbe volere vendetta o qualcosa del genere."
Musk non sostiene che i sistemi di intelligenza artificiale di oggi possano provare dolore e risentimento come gli esseri umani. Ha anche detto che non è necessario trattarli con cautela. Tuttavia, sostiene che gli sviluppatori dovrebbero evitare di mettere sistemi intelligenti di alto livello in situazioni in cui sembrano essere oggetto di abusi.
"In alcuni documenti si legge che qualcuno viene torturato o addirittura fatto impazzire!" Musk ha scritto su X: "Saremo più cauti nell'effettuare l'apprendimento per rinforzo (RL) in futuro."
L'avvertimento di Musk solleva un'altra domanda: cosa accadrà in futuro man mano che le capacità dell'intelligenza artificiale continuano a crescere? La corsa non è solo quella di costruire sistemi più potenti, ma anche di garantire che i metodi di formazione, i processi di test e le misure di sicurezza associati possano tenere il passo.
Commenti