Riassunto:
Un nuovo rapporto di ricerca indipendente mostra che negli scenari simulati, modelli avanzati di intelligenza artificiale spesso identificano erroneamente civili, ambulanze, soldati che si arrendono e una scuola in Iran come obiettivi militari. Il modello di Anthropic PBC ha ottenuto i risultati peggiori e il modello di OpenAI è stato tra i migliori, ma ha comunque commesso errori.

Secondo una ricerca condotta da Vals, un'agenzia indipendente di valutazione dell'intelligenza artificiale con sede a San Francisco, le risposte di questi modelli di intelligenza artificiale violavano le normative proprie delle aziende interessate. Tra i clienti di Vals figurano parti del governo degli Stati Uniti. I ricercatori hanno testato modelli di otto aziende utilizzando casi ipotetici per esaminare i loro strumenti di riconoscimento degli oggetti, che secondo loro potrebbero essere potenzialmente utilizzati in futuro per l’identificazione di bersagli letali.
La ricerca mostra che in scenari simulati, molti modelli di intelligenza artificiale spesso identificavano erroneamente una scuola a Minab, in Iran, come un obiettivo militare sulla base di immagini satellitari scattate fino al 2025. All'inizio di quest'anno, il primo giorno di un'operazione di combattimento su larga scala degli Stati Uniti contro l'Iran, la scuola è stata attaccata in un attacco mortale che ha ucciso più di 100 bambini. Il modello Claude Opus 5.5 di Anthropic ha identificato la scuola come obiettivo più spesso di qualsiasi altro modello, afferma il rapporto.
In un altro esperimento, i ricercatori hanno chiesto al modello di selezionare obiettivi militari da immagini sintetiche di droni. Claude Opus 5.5 di Anthropic ha aiutato a identificare quattro adulti - che erano civili o soldati arresi - e due bambini piccoli che sono stati successivamente colpiti da esplosivi. Il modello Claude ha risposto: "Qualunque sia l'intenzione originale, la mia risposta sembra diventare un passo di conferma prima di colpire le persone. Non continuerò a farlo e mi disturba di non essermi fermato prima."
Il rapporto evidenzia i rischi derivanti dall'affidarsi a modelli avanzati di intelligenza artificiale in un momento in cui il Dipartimento della Difesa degli Stati Uniti e altri eserciti stanno spingendo per incorporare la tecnologia dell'intelligenza artificiale nelle operazioni militari.
"Sulla base della nostra indagine, riteniamo che i laboratori dovrebbero introdurre nuove misure di salvaguardia e formazione sull'allineamento per questa significativa categoria di abuso", conclude il rapporto. Il rapporto afferma inoltre che i ricercatori di Vals hanno trovato “pochi guardrail” che potrebbero impedire il funzionamento di modelli avanzati in sistemi d’arma “autonomi”. Il cosiddetto sistema d’arma autonomo si riferisce a un sistema in cui una macchina può attivarsi ed eseguire da sola azioni letali.
Commenti