Riassunto:
Mentre le discussioni nel settore tecnologico globale sui confini delle capacità dell'intelligenza artificiale continuano ad infiammarsi, il presidente e amministratore delegato di Microsoft Satya Nadella ha recentemente dichiarato pubblicamente che qualsiasi esplorazione della "superintelligenza" deve essere basata sul servire gli esseri umani e sull'accettazione del controllo umano, altrimenti tale sviluppo tecnologico "non vale la pena perseguire".
Nadella ha sottolineato che Microsoft sostiene la fornitura di un'ampia gamma di opzioni e apertura nell'intero stack tecnologico dell'intelligenza artificiale, insistendo al contempo sul fatto che le aziende hanno il controllo sui propri modelli e meccanismi di apprendimento. Ha sottolineato che qualsiasi ricerca e sviluppo sulla superintelligenza deve seguire un principio fondamentale, ovvero che l’intelligenza artificiale deve aiutare gli esseri umani ed essere sempre sotto il controllo umano. Se questa premessa non può essere soddisfatta, la stessa ricerca della superintelligenza perde il suo significato.
Per gli utenti aziendali che implementano la tecnologia di intelligenza artificiale, Nadella ritiene che le aziende debbano controllare completamente le proprie risorse di conoscenza esplicite e tacite. Secondo lui, ogni istituzione dovrebbe essere in grado di costruire il proprio sistema di apprendimento continuo senza dover fare affidamento su un unico fornitore di modelli. Allo stesso tempo, le imprese dovrebbero avere la capacità di incorporare la propria conoscenza in modelli e sistemi di parametri da loro controllati per garantire l’autonomia dei dati e dei diritti di proprietà intellettuale.
In termini di governance della sicurezza dell'intelligenza artificiale, Nadella ha affermato che Microsoft accoglie con favore una maggiore ricerca sui problemi di allineamento dei modelli e sostiene un ritmo di sviluppo più prudente e controllato. Ritiene che garantire che il comportamento dell’intelligenza artificiale sia coerente con gli obiettivi umani dovrebbe essere considerato un obiettivo fondamentale della progettazione del modello fin dall’inizio, piuttosto che un ripensamento.
Allo stesso tempo, Nadella ha espresso sostegno a nuove idee come i "valutatori integrati". I meccanismi pertinenti sono progettati per monitorare e valutare continuamente il comportamento dei sistemi di intelligenza artificiale, in modo che la sicurezza dell’intelligenza artificiale non rimanga più al livello dei principi, ma possa essere trasformata in misure tecniche pratiche ed eseguibili.
Nadella ha inoltre sottolineato che la governance dell'intelligenza artificiale non dovrebbe essere nelle mani di poche istituzioni. Ritiene che il processo di regolamentazione e di allineamento dei valori per il futuro sviluppo dell’intelligenza artificiale richieda un’ampia partecipazione e opinioni rappresentative di diversi paesi, diversi settori industriali e accademici, e non possa essere dominato da poche aziende tecnologiche.
In generale, il segnale rilasciato questa volta da Microsoft mostra che l'azienda spera di rafforzare l'enfasi sulla sicurezza dei modelli, sull'autonomia aziendale e sui meccanismi di partecipazione sociale, promuovendo al contempo il rapido sviluppo dell'intelligenza artificiale. Con Microsoft in procinto di rilasciare un codice di condotta per i modelli MAI auto-sviluppati, la discussione su come dovrebbe svilupparsi la superintelligenza, chi dovrebbe supervisionarla e come mantenere il controllo umano dovrebbe surriscaldarsi ulteriormente.
Commenti