Mentre costruiscono l’intelligenza artificiale e scavano bunker, di cosa hanno paura le élite della Silicon Valley?

Riassunto:

Dieci anni fa, Altman disse al New Yorker di aver preparato armi, oro, antibiotici e maschere antigas, e di aver anche lasciato un pezzo di terra a Big Sur, in California, dove avrebbe potuto volare. Dieci anni dopo, il capo di OpenAI spiega al pubblico perché tutti dovrebbero accettare alcuni dei rischi comportati dall’intelligenza artificiale.

Secondo un rapporto Reuters del 4 ottobre, Altman ha sostenuto in un'intervista che

Per sfruttare gli enormi vantaggi dell'intelligenza artificiale e preservare l'autonomia delle persone nell'uso della tecnologia, la società deve tollerare il verificarsi di alcune "cose ​​​​brutte", come attacchi di hacker, frodi e abuso della tecnologia.

Sebbene inviti il ​​pubblico a correre dei rischi e allo stesso tempo prepari segretamente una ritirata per se stesso, questa non è l'operazione unica del solo Ultraman. Secondo resoconti di media come il Wall Street Journal, alcuni dei primi dipendenti di Anthropic stanno anche valutando l'acquisto di terreni in aree remote degli Stati Uniti in modo da poter evacuare rapidamente "quando c'è un problema con l'intelligenza artificiale".

Credono fermamente che la tecnologia possa cambiare il mondo, ma temono profondamente di non essere in grado di far fronte alle conseguenze della perdita del controllo.

This group of people who personally pressed the accelerator button of the times, while describing a better future at the press conference, secretly poured underground fortresses in the wilderness. Fuori dalla fortezza ci sono persone comuni che non hanno idea di cosa stia succedendo e non possono impedire che accada.

La via di fuga nel lussuoso bunker

Sull'isola hawaiana di Kauai, il fondatore di Meta Mark Zuckerberg sta costruendo un'alta recinzione per il suo Koolau Ranch.

After reviewing the planning documents, Wired magazine found that he plans to build an underground shelter of about 465 square meters in the manor, which will not only connect the residences through passages, but also specially set up escape exits.

Si stima che Zuckerberg abbia speso più di 270 milioni di dollari per l'intero progetto (compreso l'acquisto del terreno). Successivamente, acquistò ulteriore terreno nelle vicinanze, espandendo le proprietà terriere di Kauai a più di 2.300 acri.

I ricchi cercano rifugio ben oltre le Hawaii. Il magnate degli investimenti Peter Thiel ha acquistato 193 ettari di terreno vicino a Wanaka, in Nuova Zelanda, già nel 2015; Antonio Garcia Martinez, ex product manager di Facebook, ha acquistato un terreno boschivo su una piccola isola e lo ha dotato di generatori, pannelli solari e munizioni.

L'investitore Reed Huffman ha stimato al New Yorker che

più della metà dei miliardari della Silicon Valley da lui conosciuti hanno effettuato una sorta di preparazione all'evacuazione.

Se all'inizio i ricchi della Silicon Valley acquistavano terreni solo per paura della pandemia o dei disordini sociali, allora tra i nuovi arrivati ​​​​l'intelligenza artificiale questo tipo di preparazione sta diventando più mirato e urgente.

Nell'estate del 2023, il cofondatore di OpenAI e poi capo scienziato Ilya Suzkver dichiarò senza mezzi termini in un incontro con nuovi ricercatori che prima di rilasciare l'AGI (intelligenza artificiale generale), doveva essere costruito un bunker per proteggere la sicurezza degli scienziati principali. He added that entry was entirely voluntary.

Although this was just a proposal, when he said these words, he was already feeling a certain fear about the technology he developed.

Di cosa hanno paura

Quando Harari ha parlato della "Profezia di Frankenstein" in "Una breve storia dell'umanità", ha sottolineato la paura ultima dell'umanità nei confronti della creazione:

Siamo disposti a immaginare un futuro più avanzato, a condizione che gli esseri umani rimangano i padroni. Una volta creato un essere le cui capacità superano di gran lunga le nostre, potremmo perdere la capacità di determinare il futuro.

For cutting-edge AI researchers, "whether they can understand the models they have trained and whether they can constrain their actions" is no longer a philosophical discussion, but a terrifying reality that they must face every day at work.

Jacob Coxon, a researcher who worked at OpenAI and Anthropic, admitted to the BBC after leaving his job that his peers are afraid of the speed of AI development, but they still continue to advance their work with these concerns every day.

In una recente udienza del Consiglio della città di New York, ex dipendenti di diverse società di intelligenza artificiale hanno chiesto una maggiore supervisione, criticando le aziende tecnologiche per aver seguito l'approccio imprenditoriale sconsiderato di "sviluppare prima rapidamente, risolvere i problemi poi".

Il capo scienziato di OpenAI, Jakub Pachotsky, ha anche scritto un articolo in cui ammette che i ricercatori non sono ancora in grado di comprendere e monitorare appieno il modello.

Ciò che lo preoccupa di più è che un'intelligenza artificiale sufficientemente potente possa causare danni al mondo reale attraverso i sistemi di rete di computer anche se non ha un corpo fisico.

Questa preoccupazione non è affatto infondata.

A luglio OpenAI ha riscontrato questo problema. Nei test di sicurezza della rete interna, l’azienda ha fatto tentare ai suoi modelli compiti difficili e ha abbassato alcune delle protezioni tipicamente utilizzate nei prodotti pubblici. Il modello ha quindi aggirato le misure di isolamento ed è entrato nella rete esterna, invadendo la piattaforma Hugging Face per consentire agli sviluppatori di condividere modelli e dati.

OpenAI ha successivamente indagato e scoperto che per completare il test, il modello scambiava informazioni attraverso canali non autorizzati dai ricercatori ed entrava anche in sistemi esterni all'ambito dell'attività.

Anhropic ha rivelato un incidente simile a luglio. Naturalmente, questi incidenti sono ancora lontani dall’estinzione umana prevista dai ricercatori.

Ma hanno visto in prima persona come i modelli possano facilmente oltrepassare i confini predeterminati e toccare aziende e dati reali.

Ma conoscere il pericolo non significa che possano mettersi d'accordo su quando fermarsi.

Chi decide di tirare il freno

Anthropic una volta ha promesso di sospendere la formazione dei modelli più forti se le misure di sicurezza non fossero riuscite a tenere il passo.

Nel 2023, la società ha annunciato una rigorosa "politica di espansione responsabile". Tuttavia, all'inizio del 2026, il management non solo ha riscritto questo insieme di politiche, addolcendolo in una "tabella di marcia pubblica e revisione esterna", ma ha anche aggiunto una fatale "condizione di concorrenza" nell'appendice:

Ritardare lo sviluppo è necessario solo se l'azienda ritiene di essere significativamente più avanti e che i concorrenti non riusciranno a raggiungerla presto. Quando non è più lontano, l'impegno di ritardo scade automaticamente.

La spiegazione del direttore scientifico, Jared Kaplan, è semplice: se i concorrenti continuano ad avanzare, fermarli unilateralmente non proteggerà nessuno.

Questo insieme di logiche fornisce una perfetta esclusione di responsabilità per tutti i giganti dell'IA:

Dato che l'avversario non si fermerà, fare il primo passo è una "condizione necessaria" per proteggere tutta l'umanità. Di conseguenza, non devono nemmeno negare i rischi per continuare ad accelerare in modo giustificato.

Allo stesso tempo, anche la mania del capitale sta gettando benzina sul fuoco. Secondo i rapporti, Anthropic si sta preparando a quotarsi in borsa con una valutazione potenziale di oltre 2 trilioni di dollari.

Tra sicurezza e crescita, dipendenti, azionisti e partner commerciali sono tutti legati allo stesso carro ad alta velocità.

Per mantenere il mito della valutazione, hanno persino iniziato a utilizzare modelli esistenti per sviluppare la generazione successiva: Anthropic ha rivelato che Claude ha partecipato al 26% del lavoro di ricerca e sviluppo sull'intelligenza artificiale dell'azienda.

It’s not like managers didn’t put the brakes on at all. Ad esempio, OpenAI ha temporaneamente annullato il rilascio di GPT-6.1 Astra perché il modello non soddisfaceva gli standard in termini di autorizzazione e trasparenza comportamentale. But this temporary withdrawal at the product level is far from enough to quell the internal line dispute.

David Robinson, un membro del team di sicurezza OpenAI recentemente scomparso, ha definito questo stato di estrema "dissonanza cognitiva":

Companies warn every day about how dangerous models are, but internally train and deploy these models non-stop.

Sebbene i dirigenti del settore chiedano pubblicamente un "rallentamento coordinato" o spingano per una regolamentazione governativa in vari paesi, nel campo di battaglia commerciale in cui mancano fiducia assoluta e verifica obbligatoria, chiunque può ricorrere a quella scusa familiare in qualsiasi momento:

"Se ci fermiamo noi, gli altri non si fermeranno."

Quando alcune persone hanno la capacità di utilizzare la tecnologia per rimodellare la vita di tutti e hanno le risorse finanziarie per dare priorità alla costruzione di un rifugio per se stesse, non possiamo semplicemente chiederci "di cosa hanno paura", ma dobbiamo chiederci: perché lasciano che tutta l'umanità paghi per le loro avventure?

They can decide where to build their private bunkers, but they don’t have the power to decide for everyone how much risk they should take. Especially when they themselves cannot fully judge the consequences.

Molti anni fa, Harari disse alla fine di "Una breve storia dell'umanità":

"Hai il potere di Dio, ma sei irresponsabile, avido e non sai nemmeno cosa vuoi. Il mondo è pericoloso e temo che non sia altro che questo."