Riassunto:
Yao Shunyu, capo scienziato dell'intelligenza artificiale presso Tencent ed ex ricercatore di OpenAI, ha recentemente partecipato a un seminario scientifico a Hong Kong e ha affermato che i modelli di intelligenza artificiale all'avanguardia si stanno rapidamente spostando nel campo della biologia e che le loro capacità raggiungeranno presto un punto critico che potrebbe causare danni alla vita reale. Sebbene si prevede che questo cambiamento promuova la ricerca e lo sviluppo di nuovi farmaci e l’innovazione medica, potrebbe anche comportare nuove sfide in termini di sicurezza e sollevare preoccupazioni nel settore sui rischi per la biosicurezza.
Yao Shunyu ha affermato che l'intelligenza artificiale ha dimostrato capacità sufficienti per avere un impatto reale nel campo della sicurezza della rete e che le capacità biologiche si stanno avvicinando a livelli simili. Ha avvertito che il futuro sviluppo dell’intelligenza artificiale nel campo della biologia potrebbe essere più difficile da gestire che nel campo della sicurezza informatica, quindi sia le aziende cinesi che le altre aziende che adottano il modello aperto devono prendere sul serio le questioni di sicurezza rilevanti.
Negli ultimi anni, sempre più sistemi di intelligenza artificiale all'avanguardia hanno iniziato a essere applicati alle scienze della vita, alla ricerca medica e allo sviluppo di farmaci. Nel settore si ritiene generalmente che l’intelligenza artificiale dovrebbe ridurre significativamente il ciclo di screening dei farmaci e di ricerca e sviluppo e accelerare la scoperta di opzioni terapeutiche. Tuttavia, gli esperti hanno anche sottolineato che queste capacità hanno caratteristiche di “dual use”. Oltre a promuovere il progresso della ricerca scientifica, possono anche essere oggetto di abusi da parte di criminali, comportando così nuovi rischi per la biosicurezza.
Il discorso di Yao Shunyu arriva in un momento in cui Tencent sta accelerando la sua strategia di intelligenza artificiale. Tencent ha rilasciato ufficialmente il 4 novembre il modello di punta della nuova generazione Hy4 e lo ha posizionato come uno dei modelli base più importanti dell'azienda. Secondo i dati di Artificial Analysis, un’agenzia di valutazione dell’intelligenza artificiale, Hy4 è attualmente classificato come uno dei modelli di intelligenza artificiale più performanti in Cina.
Parlando delle direzioni di sviluppo futuro, Yao Shunyu ha rivelato che Tencent sta esplorando la possibilità di costruire un "laboratorio scientifico autonomo" e spera di utilizzare i sistemi di intelligenza artificiale per completare in modo indipendente processi di ricerca scientifica complessi, compresi alcuni compiti di ricerca biologica. Ritiene che da un punto di vista tecnico la maggior parte dei problemi alla fine possa essere risolta. Le vere sfide più grandi risiedono nella governance sociale, nel coordinamento organizzativo e nella costruzione di sistemi di supervisione della sicurezza.
Al fine di ridurre i potenziali rischi, Tencent ha adottato una serie di misure di sicurezza durante il processo di formazione di Hy4. La società ha affermato di aver deliberatamente eliminato i dati relativi allo sfruttamento delle vulnerabilità del software e al comportamento degli attacchi, conservando solo la conoscenza difensiva della sicurezza della rete, sperando di ridurre le capacità di attacco pur mantenendo le capacità protettive. Per quanto riguarda il campo della biologia, la valutazione interna di Tencent ritiene che, sebbene Hy4 abbia una forte conoscenza biologica di base, esiste ancora un chiaro divario tra la capacità di formulare in modo indipendente procedure sperimentali e formare capacità ad alto rischio.
Yao Shunyu ha sottolineato in particolare che, rispetto al campo della sicurezza delle reti, nel campo della biologia è spesso più difficile distinguere chiaramente tra "capacità offensive" e "capacità difensive". Ciò significa che i ricercatori dovranno affrontare situazioni più complesse nel valutare i rischi dei modelli, quindi i modelli devono essere sottoposti a test e convalide più rigorosi prima del rilascio. Tencent sta attualmente collaborando con il principale laboratorio di sicurezza dell'azienda per condurre una valutazione sistematica delle capacità rilevanti.
Per quanto riguarda il controverso dibattito "open source contro closed source" degli ultimi anni, Yao Shunyu ha affermato che le aziende americane come Anthropic sostengono di mantenere chiusi i modelli più avanzati per ridurre i potenziali rischi sociali. Questa visione ha una certa razionalità. Ma ritiene anche che i modelli aperti possano anche aiutare i difensori a migliorare le proprie capacità, quindi in futuro il settore potrebbe dover cercare un equilibrio tra apertura e chiusura, piuttosto che affidarsi interamente a un unico percorso.
Mentre l'intelligenza artificiale si espande gradualmente dalla programmazione, dalla matematica e dalla generazione di contenuti al campo delle scienze della vita, la biologia viene considerata come una delle più importanti frontiere dell'IA nella fase successiva. Gli analisti hanno sottolineato che una volta che l’intelligenza artificiale avrà veramente la capacità di comprendere e applicare in modo approfondito la conoscenza biologica, le tecnologie correlate potrebbero non solo cambiare la ricerca e lo sviluppo di farmaci e l’industria medica, ma anche spingere le agenzie di regolamentazione globali a riesaminare il quadro di governance dell’intelligenza artificiale per affrontare le conseguenti nuove sfide in termini di sicurezza.
Commenti