Abstract:
Essere al centro dello sviluppo dell'intelligenza artificiale per garantire che questa potente tecnologia rimanga sicura e ridurre il rischio che sfugga al controllo dei suoi creatori. Ciò è in parte una risposta alle pratiche comuni oggi nel settore tecnologico. In molti casi, le aziende stanno sfruttando l’intelligenza artificiale per regolamentarla. Gli approcci automatizzati presentano vantaggi in termini di efficienza e la ricerca mostra che l’intelligenza artificiale potrebbe essere migliore degli esseri umani nel trovare le vulnerabilità dei modelli. Poiché le capacità dell’intelligenza artificiale continuano ad aumentare, è probabile che questo divario si allarghi ulteriormente.
Ma Rishub Jain, co-fondatore di Sampura Research, ritiene che gli esseri umani debbano ancora svolgere un ruolo importante.
Lui e i suoi cofondatori hanno raccolto finanziamenti per 6,5 milioni di dollari e hanno ricevuto ulteriori 4,2 milioni di dollari in investimenti impegnati. Hanno in programma di sviluppare un sistema ibrido uomo-macchina chiamato “Judge” per aiutare le aziende a identificare e bloccare le vulnerabilità della sicurezza che i modelli di intelligenza artificiale tentano di sfruttare, riducendo così il rischio che eludano la supervisione o addirittura perdano il controllo. Il lavoro è diventato più urgente da quando OpenAI e Anthropic hanno rivelato che i loro modelli avevano violato i sistemi di altre società senza autorizzazione.
"Penso che abbiamo ancora molto da imparare dagli esseri umani", ha detto Jain. "Se gli esseri umani sono coinvolti nell'intero processo fin dall'inizio, le possibilità che il modello impari a aggirare queste vulnerabilità saranno minori."
Mentre Google, Anthropic e OpenAI di Alphabet competono ferocemente per il dominio nell'era dell'intelligenza artificiale, alcuni ricercatori all'interno del laboratorio ritengono che la pressione commerciale superi le considerazioni sulla sicurezza. Di conseguenza, molti ricercatori si sono dimessi in segno di protesta, avvertendo che l’intelligenza artificiale si sta sviluppando troppo rapidamente o viene utilizzata per scopi che non possono accettare.
Commenti