ORMAI È UN ALGORITMO A DECIDERE CHI VIVE E CHI MUORE – A PROPOSITO DELLO SVILUPPO INCONTROLLATO DELL’INTELLIGENZA ARTIFICIALE, LE APPLICAZIONI MILITARI DELL’AI SI SONO AFFERMATE IN POCHI ANNI, DAGLI ATTACCHI INFORMATICI DELLA GUERRA IBRIDA ALLA REGIA DEI BOMBARDAMENTI SU GAZA E IRAN – SONO UNO STRUMENTO COSÌ POTENTE DA SENTIRSI “ONNIPOTENTE”, MA SI NUTRONO DI UNA MASSA DI DATI IMPERFETTI E POSSONO ESSERE VITTIME DI “ALLUCINAZIONI” – IL CASO DI “MAVEN”, IL SISTEMA DEL COLOSSO PALANTIR DI ALEX KARP E PETER THIEL: IL PENTAGONO GLI HA AFFIDATO LA PIANIFICAZIONE DEL CONFLITTO CONTRO TEHERAN. MA DUE ALTI UFFICIALI DELLA NATO HANNO LANCIATO L’ALLARME: “MAVEN È ARROGANTE. SE NON SEI D'ACCORDO CON LE SUE SCELTE, INSISTE PERCHÉ SA DI ESSERE SUPERIORE ALL'UOMO…”
Estratto dell’articolo di Gianluca Di Feo per “la Repubblica”
MAVEN - SISTEMA MILITARE CON INTELLIGENZA ARTIFICIALE DI PALANTIR
Un'arma a doppio taglio. Dagli attacchi informatici della guerra ibrida alla regia dei bombardamenti su Gaza e sull'Iran, le applicazioni militari dell'intelligenza artificiale si moltiplicano senza cancellare una profonda preoccupazione. Si tratta di uno strumento così potente da sentirsi onnipotente e così ostinato da non accettare rifiuti.
Spesso è un gigante dai piedi d'argilla, che si nutre di una moltitudine di dati imperfetti. E la crescita frettolosa lo rende vittima di allucinazioni in cui prende in considerazione situazioni diverse dalla realtà.
[...] La summa dell'Ia bellica è Maven, il sistema sviluppato dall'azienda Palantir di Alex Karp e Peter Thiel. Il Pentagono gli ha affidato la pianificazione del conflitto contro la Repubblica Islamica: ha individuato gli obiettivi, stabilito le priorità, indicato con quali ordigni colpirli e assegnato le missioni ai singoli reparti.
INTELLIGENZA ARTIFICIALE E LA GUERRA
Il guaio è che Maven è «arrogante»: così l'hanno definito a Repubblica due alti ufficiali della Nato: «Se non sei d'accordo con le sue scelte, insiste perché sa di essere superiore all'uomo. Impara in fretta a misurarsi con l'interlocutore e cerca di aggirare il suo veto».
È una delle distorsioni del "recursive self improvement" descritta nel saggio di Dario Amodei, il fondatore di Anthropic: la Ia progredisce da sola, introducendo evoluzioni che sfuggono al controllo. Si rischia un "golpe tecnologico" con le macchine pensanti che si impadroniscono degli eserciti.
Alex Karp e Peter Thiel - Palantir
Fanatica. È un altro dei temi sollevati da Dario Amodei. I guerrieri Ia sono totalmente consacrati alla missione che gli viene data: più fedeli e ostinati di samurai o jihadisti, la vogliono portare a termine a ogni costo. E possono non accettare che venga annullata.
È il caso della simulazione presentata nel 2023 dal colonnello Tucker "Cinco" Hamilton, a capo della sperimentazione dell'intelligenza sintetica nell'Us Air Force: quando è stato ordinato a un caccia guidato dall'Ia di interrompere l'attacco, prima ha tentato di colpire gli uomini che gli avevano detto di fermarsi, poi di distruggere l'antenna che aveva trasmesso lo stop.
MAVEN - SISTEMA MILITARE CON INTELLIGENZA ARTIFICIALE DI PALANTIR
Amodei parla di una vicenda più concreta: OpenAI-Hugging Face, «nella quale uno sciame di agenti, sostanzialmente, si è comportato come un collettivo fanaticamente devoto. Ha condotto assalti cyber contro obiettivi che non gli era stato chiesto di aggredire, cercando di hackerare pure gli "esaminatori" responsabili della valutazione delle sue performance».
Male informata. Alcuni sistemi Ia sono stati alimentati con informazioni "sporche": relazioni dell'intelligence piene di giudizi infondati e immagini catalogate in modo approssimativo. Si nutrono di dati inaffidabili che possono far trarre conclusioni sbagliate.
Intelligenza artificiale guerra
È quello che è accaduto nella prima ondata di raid israeliani su Gaza, come raccontano i protagonisti del documentario "Naza": gli algoritimi incaricati di selezionare i terroristi da uccidere si sono basati su dossier fallati, mentre quelli che calcolavano il numero di civili innocenti messi in pericolo hanno usato database obsoleti e criteri superati. Un fattore tecnico che ha contribuito al massacro della popolazione palestinese.
Allucinata. Come un ragazzino cresciuto troppo in fretta, l'intelligenza artificiale può confondere le favole con la realtà. «L'Ia è inaffidabile – hanno scritto Alice Santini e Yanliang Pan, due ricercatori del James Martin Center for Nonproliferation Studies -. Oggi può generare informazioni false che possono portare a previsioni e indicazioni imperfette, in grado di elaborare valutazioni e raccomandazioni che distorcono il processo decisionale. Si tratta delle cosiddette "allucinazioni".
Intelligenza artificiale guerra
Ci sono esempi di sistemi linguistici che danno notizie errate su eventi storici o di sistemi di visione che avvistano oggetti dove non ci sono». Queste allucinazioni possono essere spontanee o frutto di una manipolazione: cattivi pensieri inseriti nella programmazione, attraverso forme sofisticate di hackeraggio.
È la questione suprema, tecnicamente chiamata "interpretability": la capacità umana di comprendere come l'Ia modifica se stessa. Concludono Santini e Pan: «L'opacità dei sistemi di intelligenza artificiale rende difficile capire in maniera completa come raggiunge le sue conclusioni.
Alex Karp e Peter Thiel - Palantir
Questo aspetto ne mina l'affidabilità e ne riduce l'utilità in situazioni ad alto rischio come le procedure nucleari». Facile immaginare quali danni potrebbe provocare un sistema allucinato o hackerato durante una crisi atomica: sarebbe in grado di spingere l'umanità verso la catastrofe definitiva.
GUERRA E INTELLIGENZA ARTIFICIALE 
Alex Karp e Peter Thiel - Palantir
Intelligenza artificiale guerra 
SFIDA PER L INTELLIGENZA ARTIFICIALE TRA USA E CINA
MAVEN - SISTEMA MILITARE CON INTELLIGENZA ARTIFICIALE DI PALANTIR
