LA TERZA GUERRA MONDIALE STAVA PER SCOPPIARE PER COLPA DELL’INTELLIGENZA ARTIFICIALE – L'ESERCITO AMERICANO HA RISCHIATO DI SCATENARE UN CONFLITTO CON LA CINA A CAUSA DI UN RAPPORTO “FARLOCCO” REDATTO DA UNO 007 CON L'AIUTO DELL'AI - IN MEDIO ORIENTE, GLI AMERICANI STAVANO PER ASSALTARE UNA NAVE CINESE CHE, SECONDO IL DOSSIER, TRASPORTAVA COMPONENTI PER COSTRUIRE ARMI NUCLEARI. POCO PRIMA DELL'OPERAZIONE, I FUNZIONARI HANNO SCOPERTO CHE IL CHATBOT UTILIZZATO PER REDIGERE IL RAPPORTO AVEVA SBAGLIATO L'ANALISI E CHE LO SCENARIO RIPORTATO ERA INTERAMENTE FALSO...
Traduzione dell’articolo di Katie Bo Lillis e Zachary Cohen per https://edition.cnn.com/
xi jinping donald trump foto lapresse
Il rapporto di intelligence, circolato questa primavera tra le forze armate statunitensi nel pieno della guerra con l’Iran, fece immediatamente scattare l’allarme: una nave cinese in Medio Oriente stava trasportando componenti di un programma di armi nucleari.
Le forze armate statunitensi entrarono in azione predisponendo piani per intercettare l’imbarcazione, secondo quattro fonti a conoscenza dell’episodio. Secondo due delle fonti, membri armati delle forze armate statunitensi si stavano preparando a salire a bordo della nave. Aerei militari erano già in volo, hanno riferito una di quelle fonti e un’altra fonte a conoscenza dell’incidente.
donald trump xi jinping foto lapresse
Fu soltanto poco prima dell’operazione pianificata che i funzionari approfondirono il rapporto, redatto da un analista di un comando delle operazioni speciali, e scoprirono che era stato generato con l’aiuto dell’intelligenza artificiale (AI) — e che un chatbot utilizzato dall’analista aveva identificato in modo errato il materiale trasportato dalla nave. CNN non è riuscita a sapere quale fosse il carico identificato erroneamente.
Il rapporto, secondo una delle fonti, era «interamente falso». Ma ha anche «quasi scatenato una guerra», ha detto la fonte. Qualsiasi operazione statunitense contro un’imbarcazione cinese avrebbe potuto rischiare di degenerare in un conflitto armato tra le due nazioni.
In tutte le forze armate statunitensi e nella comunità dell’intelligence, i funzionari stanno spingendo per integrare l’AI in quasi ogni aspetto del loro lavoro, dall’analisi degli enormi volumi di intelligence grezza raccolti dagli Stati Uniti e dalla selezione degli obiettivi per gli attacchi, fino ad applicazioni più ordinarie come la gestione del bilancio, della logistica e delle catene di approvvigionamento.
Ma l’episodio mette in evidenza i profondi rischi legati all’impiego di questa nuova, potente e relativamente poco compresa tecnologia nella selezione degli obiettivi nel pieno di una guerra. Da tempo gli analisti temono che l’AI possa provocare un errore di valutazione catastrofico qualora gli Stati si affidino a dati scadenti o corrotti — il genere di errore che potrebbe portare gli Stati Uniti a sparare contro una nave cinese sulla base di informazioni inesatte.
xi jinping e donald trump a pechino foto lapresse.
In questo caso specifico, l’analista interrogò un chatbot su alcuni rapporti di intelligence relativi al manifesto di carico della nave, provenienti dallo US Special Operations Command Pacific, con sede alle Hawaii. Non era chiaro se il chatbot fosse uno strumento disponibile in commercio o un prodotto del governo statunitense.
«Gli strumenti interni sono perlopiù soltanto copie dei prodotti commerciali con un po’ di rossetto», ha detto un ex alto funzionario statunitense a conoscenza dei sistemi di AI utilizzati dagli analisti militari e dell’intelligence.
Il bot fuse insieme intelligence da fonti aperte e intelligence segreta dei segnali presente negli archivi governativi, arrivando alla fatidica conclusione sul materiale trasportato dalla nave.
L’analista utilizzò poi nuovamente l’AI per confezionare i risultati in un rapporto di intelligence standard — il tipo di rapporto di cui i funzionari militari si fidano — e lo diffuse.
esercito americano in medioriente 8
Lo US Special Operations Command Pacific e il Pentagono non hanno risposto a una richiesta di commento.
La ragione della rapida adozione dell’AI è che può aiutare le forze armate a prendere più velocemente decisioni sul campo di battaglia, come quali obiettivi colpire o quali mezzi militari spostare e dove. I funzionari affermano che gli Stati Uniti non possono permettersi di restare indietro nell’integrazione dell’AI nel caso in cui un giorno debbano combattere contro la Cina o un altro avversario che potrebbe essere potenzialmente in grado di restare un passo avanti rispetto agli Stati Uniti.
A gennaio, il segretario alla Difesa Pete Hegseth ha pubblicato la «Artificial Intelligence Acceleration Strategy» del suo dipartimento, nel tentativo di accelerare l’utilizzo dell’AI da parte delle forze armate.
esercito americano in medioriente 3
«Daremo libero corso alla sperimentazione, elimineremo gli ostacoli burocratici, concentreremo i nostri investimenti e dimostreremo l’approccio operativo necessario per garantire la nostra leadership nell’AI militare», ha detto Hegseth in un discorso in cui annunciava la strategia.
La strategia spinge inoltre per un suo ampio utilizzo in tutte le forze armate, ordinando al dipartimento di rendere disponibile l’AI attraverso diversi programmi con l’obiettivo di «democratizzare la sperimentazione e la trasformazione dell’AI in tutto il Dipartimento mettendo i modelli di AI americani, leader mondiali, direttamente nelle mani dei nostri tre milioni di dipendenti civili e militari, a tutti i livelli di classificazione», si legge in un memorandum che annunciava la strategia.
esercito americano in medioriente 4
Ma lo sforzo è decentralizzato, hanno affermato diversi funzionari statunitensi a conoscenza della situazione, con differenti settori del governo che utilizzano strumenti diversi secondo direttive e standard di sicurezza differenti. Non esiste un unico insieme di standard su come gli Stati Uniti verifichino le informazioni generate da questi strumenti. La costellazione di diversi sistemi di AI impiegati da differenti settori delle forze armate e della comunità dell’intelligence fa sì che affidabilità e funzionalità relative varino ampiamente.
Da settimane, i responsabili politici di Washington discutono intensamente di AI dopo una serie di allarmi molto gravi lanciati da ingegneri della Silicon Valley e amministratori delegati del settore tecnologico sulla possibilità che l’AI possa sottrarsi ai vincoli umani, con conseguenze potenzialmente in grado di porre fine alla civiltà.
il nuovo missile nucleare cinese df-5c mostrato durante la parata militare del 3 settembre 2025
Ma l’episodio della nave cinese mette in evidenza un rischio diverso e più immediato: esseri umani che prendono decisioni disastrose sulla base di informazioni inesatte o fuorvianti generate dall’AI o da altri sistemi automatizzati. Le fonti hanno affermato che le forze armate stanno ricorrendo rapidamente all’AI per contribuire alla selezione degli obiettivi, un ambito che comporta l’evidente rischio di errori fatali.
«L’AI nella selezione degli obiettivi è sicuramente qualcosa che sta aumentando rapidamente e non esiste una vera linea guida su come la presenza di un essere umano nel processo possa prevenire vittime civili o episodi di fuoco amico», ha detto un’altra fonte a conoscenza delle attuali politiche delle forze armate.
esercito americano in medioriente 5
Il tipo di «allucinazione» prodotto in questo caso dallo strumento utilizzato dall’analista non è stato un incidente isolato all’interno della comunità dell’intelligence da quando questi strumenti hanno cominciato a proliferare nel governo, secondo una delle fonti.
Per alcuni funzionari dell’intelligence di più lunga esperienza — anche tra coloro che sostengono in linea generale l’utilizzo dell’AI all’interno delle forze armate — l’AI ha esercitato pressioni sugli analisti affinché producano e diffondano intelligence più rapidamente, aprendo la porta agli errori. In particolare i giovani analisti, hanno affermato diverse fonti, sono nativi di questi strumenti e più propensi a fidarsi di essi in modo acritico. «L’AI ti permette di arrivare più velocemente a una cattiva idea», ha detto una delle fonti.
