Riassunto:
La startup di intelligenza artificiale Anthropic ha annunciato che il suo laboratorio di fisica e biologia basato sull'intelligenza artificiale (Wet Lab) di recente costruzione nell'area della Baia di San Francisco ha compiuto "progressi significativi". Tuttavia, a livello di funzionamento sperimentale, i ricercatori umani hanno ancora il controllo assoluto e non hanno permesso direttamente al suo modello di intelligenza artificiale Claude di operare autonomamente senza supervisione.
È stato riferito che il laboratorio è dedicato principalmente alla ricerca biologica di base e alla verifica fisica, con l'obiettivo di colmare il divario tra pure simulazioni computerizzate e veri esperimenti biologici. Sebbene i dirigenti di Anthropic abbiano lanciato avvertimenti molte volte in passato, sottolineando che potenti modelli di intelligenza artificiale possono comportare rischi estremamente gravi per la biosicurezza e persino la distruzione umana, l’azienda sta anche accelerando l’applicazione dell’intelligenza artificiale nel campo delle scienze della vita. Eric Kauderer-Abrams, responsabile della divisione Life Sciences, ha sottolineato che "la verifica fisica nei laboratori reali rimarrà insostituibile per molto tempo a venire", che è anche l'intenzione originale dell'azienda nella creazione del laboratorio.
Il rapporto sottolinea che, sebbene Anthropic affermi che il laboratorio ha ottenuto risultati preliminari impressionanti, il dettaglio più sorprendente è che l'azienda non ha scelto di lasciare direttamente che l'IA "si lasci andare". Tutte le procedure degli esperimenti fisici, le operazioni dei reagenti e la revisione dei dati sono ancora sotto stretto "controllo a circuito chiuso" (Humans in the loop) da parte di ricercatori umani.
Gli analisti hanno sottolineato che Anthropic mantiene un elevato grado di cautela nel promuovere l'innovazione biologica, il che riflette il doppio dilemma che i giganti tecnologici di oggi si trovano ad affrontare quando perseguono scoperte scientifiche e commerciali: da un lato, devono utilizzare laboratori fisici per fornire capacità di verifica ai partner farmaceutici e accelerare la lotta contro le malattie rare; dall’altro, devono affrontare le enormi preoccupazioni provenienti da tutti i ceti sociali riguardo al fatto che l’intelligenza artificiale possa essere abusata per creare nuove minacce biologiche. Insistendo nel mantenere la posizione dominante degli esseri umani nel ciclo sperimentale, Anthropic sta cercando di stabilire una linea rossa di conformità che tenga conto sia dell’innovazione che della sicurezza per la sua ricerca biologica sull’IA.
Commenti