Riassunto:
Nel febbraio 2026, una scuola elementare a Minab, una piccola città nel sud dell'Iran, è stata attaccata da due missili Tomahawk il primo giorno di guerra. L'attacco aereo ha ucciso più di 150 persone, di cui almeno 123 bambini. Un documento interno di revisione del Pentagono mostra che un sistema di puntamento di intelligenza artificiale sviluppato da Palantir ha svolto un ruolo chiave nella tragedia.
Gli investigatori hanno scoperto che gli analisti del Comando Centrale degli Stati Uniti riponevano una fiducia quasi cieca in un sistema chiamato Maven Smart System.
Allo stesso tempo, una nota chiave dell'intelligence che avrebbe potuto correggere un errore di calcolo fatale è stata rinchiusa in un sistema isolato di cui nessuno si è preoccupato e non è mai stata comunicata alle persone che hanno formulato il piano di attacco aereo.
Una tragedia evitabile è diventata realtà passo dopo passo.
Ora, questo documento investigativo esposto sta riportando sotto i riflettori la questione dei confini del processo decisionale militare assistito dall'intelligenza artificiale.
Tripla caduta: intelligenza artificiale, vecchia intelligenza e catene spezzate
Secondo il documento interno ottenuto da Bloomberg, gli investigatori hanno concluso che si sono verificati tre fallimenti sovrapposti.
Il primo è l'eccessivo affidamento al sistema di intelligenza artificiale: alcuni utenti si aspettano che Maven contrassegni automaticamente record obsoleti o informazioni contraddittorie, ma non riescono a spiegare il motivo per cui il sistema lo fa.
In secondo luogo, i dati di intelligence stessi sono seriamente obsoleti. La struttura di Minab è stata catalogata per molto tempo come struttura del Corpo delle guardie rivoluzionarie islamiche iraniane utilizzando vecchie informazioni.
Alla fine, il personale responsabile della verifica degli obiettivi e della prevenzione di lesioni accidentali ai civili è stato notevolmente ridotto. Le tre omissioni si sovrapposero, portando alla tragedia finale.
Nessuno dei tre può essere fatale da solo, ma quando si verificano contemporaneamente nella catena decisionale dello stesso missile, il risultato diventa irreversibile.
Sistema Maven: le preoccupazioni nascoste dietro le decisioni minime
Maven Smart System è definito una "piattaforma di integrazione e targeting dei dati basata sull'intelligenza artificiale" utilizzata per accelerare l'analisi dell'intelligence e il processo decisionale.
Può comprimere in pochi minuti il compito di spuntare un elenco di obiettivi che originariamente richiedeva ore per essere completato.
Il costo del miglioramento dell'efficienza è che il processo di revisione viene sistematicamente compresso, lasciando sempre meno tempo e spazio per la revisione manuale.
Le immagini satellitari commerciali in realtà mostrano da tempo il problema: nel 2017, il recinto della scuola è stato fisicamente separato dall'adiacente base militare; nel 2018, le immagini hanno catturato chiaramente la recinzione colorata, il campo da calcio e i cartelli del parco giochi.
Palantir ha successivamente risposto che la società non è responsabile dei dati sottostanti e non è responsabile dell'identificazione dei difetti dell'intelligence.
Dopo gli attacchi aerei, l'azienda ha aggiunto nuove funzioni al sistema per riesaminare l'intelligence di base e segnalare contraddizioni e imprecisioni che potrebbero essere sfuggite alla revisione manuale. Si dice che siano state scoperte anomalie simili.
È solo che tutto questo è arrivato troppo tardi.
Per gli analisti in prima linea all'epoca, i giudizi forniti dal sistema erano spesso considerati risposte già pronte piuttosto che informazioni di riferimento che necessitavano di una verifica incrociata.
Nota dimenticata: un avviso che non è mai arrivato
Già nel 2019, un analista aveva notato cambiamenti nelle strutture di Minab e li aveva documentati.
Tuttavia, questi dati sono archiviati in un sistema non collegato al principale database dell'intelligence militare, che funge da isola informativa.
Non è mai stata trasmessa alle persone che alla fine hanno formulato il piano per il raid aereo, come una lettera che non è mai stata inviata.
Ciò che è ancora più allarmante è che il numero di squadre dedicate responsabili della verifica degli obiettivi e dell'evitare lesioni accidentali ai civili è diminuito di circa il 90% negli ultimi anni.
Una volta la squadra competente del Comando Centrale era stata ridotta da 10 a una sola persona, con il risultato che nessuno poteva condurre una revisione finale di questa struttura prima del lancio del missile.
Gli errori tecnici sono solo superficiali. Le vere lacune sono sepolte nell’impiego umano e nella progettazione dei processi.
Un documento che avrebbe dovuto essere controllato prima è rimasto tranquillamente addormentato nelle crepe del sistema per diversi anni.
Enigma sulla responsabilità: caratterizzazione dei crimini di guerra e risposta ritardata
La squadra investigativa internazionale indipendente delle Nazioni Unite ha recentemente concluso che gli Stati Uniti hanno fondati motivi per ritenere che abbiano commesso il crimine di guerra di "attacco indiscriminato".
Il rapporto sottolinea che gli Stati Uniti "non hanno adottato tutte le misure possibili per verificare se la scuola fosse un obiettivo militare". Questa violazione del dovere è andata oltre la semplice negligenza.
In risposta, un portavoce del Pentagono ha affermato che "gli Stati Uniti non prendono di mira i civili" ma ha rifiutato di commentare il rapporto delle Nazioni Unite.
Nel marzo di quest'anno, più di 120 democratici della Camera dei rappresentanti degli Stati Uniti hanno scritto al Segretario della Difesa, chiedendo informazioni sul ruolo specifico di Maven e di altri strumenti di intelligenza artificiale in questo errore di valutazione.
Il Pentagono non ha ancora fornito una risposta pubblica, citando l'indagine in corso.
Questo incidente riflette una tendenza più ampia: le forze armate e le forze dell'ordine fanno sempre più affidamento sugli strumenti di intelligenza artificiale, ma non dispongono di meccanismi di verifica e responsabilità corrispondenti.
Il vero pericolo potrebbe non essere mai l'algoritmo in sé, ma l'abitudine umana di accettare le conclusioni delle macchine senza verifica.
Articoli correlati:
L'esercito americano si è preparato a intercettare e ispezionare le navi cinesi a causa di informazioni errate portate da un errore di valutazione dell'IA, creando quasi un conflitto internazionale
Commenti