Riassunto:
Secondo Bloomberg, il CEO di Meta Mark Zuckerberg ha dichiarato martedì che i laboratori di intelligenza artificiale dovrebbero fare affidamento su valutatori e consulenti indipendenti per garantire la sicurezza dei modelli. Martedì Zuckerberg si è unito a un numero crescente di dirigenti tecnologici che hanno preso parte a un dibattito globale su come evitare al meglio che i sistemi di intelligenza artificiale danneggino l’umanità.
Zuckerberg
"L'introduzione di valutatori e consulenti indipendenti è una best practice del settore." Ha scritto Zuckerberg in un post sulla piattaforma X. Ha osservato che, in generale, avere un ecosistema di valutatori più ampio e diversificato aiuta.
Zuckerberg ha affermato che attualmente si discute molto sull'opportunità di rallentare lo sviluppo delle capacità di intelligenza artificiale e attendere che la tecnologia di allineamento si allinei. Il suo punto è che la fiducia e l’allineamento stanno rapidamente diventando le capacità più importanti che differenziano agenti e modelli. Qualsiasi laboratorio che non prenda sul serio l’allineamento rimarrà indietro. L’allineamento si riferisce all’allineamento del modo in cui l’intelligenza artificiale fa le cose con gli interessi umani.
Post di Zuckerberg
Al momento, alcuni dirigenti aziendali hanno espresso sostegno al rallentamento dello sviluppo dell'intelligenza artificiale e sostengono la cooperazione per raggiungere il consenso. Zuckerberg ha scritto che Meta ha deciso di rallentare da sola lo sviluppo dello strumento Muse AI senza prima chiedere ai suoi colleghi di rivedere i loro progressi.
"Meta ha ritardato di diversi mesi il rilascio di Muse per concentrarsi sulla sicurezza e sulla protezione", ha scritto. "Non abbiamo chiesto a tutti gli altri di farlo prima e poi abbiamo seguito noi stessi. Lo abbiamo fatto semplicemente come parte della nostra routine quotidiana perché era ovviamente la cosa giusta per i nostri utenti e per noi."
Zuckerberg ritiene che dedicare la stragrande maggioranza della potenza di calcolo al servizio delle persone, piuttosto che correre per promuovere l'auto-miglioramento ricorsivo dell'intelligenza artificiale, sia uno dei modi migliori per garantire lo sviluppo sicuro di questa tecnologia. Meta ha preso questo impegno e altri laboratori possono fare lo stesso.
Lo scorso fine settimana, un articolo di 3.800 parole del CEO di Anthropic, Dario Amodei, ha ulteriormente infiammato l'acceso dibattito sui rischi economici e per la sicurezza dell'intelligenza artificiale. In esso, ha chiesto di rallentare lo sviluppo di sistemi all'avanguardia in modo che i ricercatori possano comprendere meglio le potenziali minacce. L’appello di Amodei ha ricevuto un raro sostegno dal CEO di OpenAI Sam Altman e dal CEO di SpaceX Elon Musk.
Commenti