SE È UN ALGORITMO A DECIDERE CHI VIVE E CHI MUORE, DI CHI È LA RESPONSABILITÀ SE COMMETTE CRIMINI DI GUERRA? – MILENA GABANELLI: “LA RISPOSTA PUÒ COINVOLGERE PIÙ PERSONE, ANCHE MOLTO LONTANE DAL FRONTE. CHI FABBRICA UN CANNONE NORMALMENTE NON DECIDE CONTRO CHI SPARARE. LA VENDITA, DA SOLA, NON RENDE IL PRODUTTORE RESPONSABILE DELL’ATTACCO. CHI SCRIVE IL PROGRAMMA, LO MODIFICA O NE APPROVA LE FUNZIONI PUÒ COSÌ CONTRIBUIRE ANCHE AL PROCESSO DI SELEZIONE DEL BERSAGLIO. QUESTO RENDE NECESSARIO INDAGARE SUL SUO RUOLO, MA NON BASTA A DIMOSTRARNE LA COLPEVOLEZZA” – “PER CAPIRE CHI DEBBA RISPONDERE BISOGNA…” - VIDEO
Estratto dell’articolo di Marta Serafini,Milena Gabanelli per www.corriere.it
A Zaporizhzhia, in Ucraina, un drone russo ha colpito una stazione di servizio e ucciso tre persone. Secondo gli investigatori ucraini, citati dal New York Times, era guidato interamente dall’intelligenza artificiale: nell’ultima fase il sistema avrebbe scelto e attaccato il bersaglio senza un intervento umano.
La ricostruzione pone una domanda: se a selezionare l’obiettivo è un software , chi risponde di un eventuale crimine di guerra? La risposta può coinvolgere più persone, anche molto lontane dal fronte.
Dentro questa trasformazione c’è il software della californiana Palantir Technologies, che integra immagini satellitari, video dei droni, informazioni dal terreno e intelligence open source per offrire ai comandanti opzioni sugli obiettivi da colpire.
[…] E poi c’è Starlink , la rete satellitare di Elon Musk, che garantisce connettività continua e rapida sul campo. La novità è qui: non solo armi sempre più intelligenti, ma guerra sempre più dipendente da software e infrastrutture private.
droni guidati dall'ia dataroom 5
DIFFERENZA DALL’ARMA CONVENZIONALE
Chi fabbrica un cannone normalmente non decide contro chi sparare. […] La vendita, da sola, non rende il produttore responsabile dell’attacco.
In un sistema governato dall’AI il software può determinare quali oggetti riconoscere come bersagli, quali segnali considerare sufficienti per attaccare e quando rinunciare. […] Chi scrive il programma, lo modifica o ne approva le funzioni può così contribuire anche al processo di selezione del bersaglio. Questo rende necessario indagare sul suo ruolo, ma non basta a dimostrarne la colpevolezza (fonte: S ipri e Icrc ). […]
ACCERTAMENTO DEL CRIMINE
La morte di civili non dimostra, da sola, un crimine di guerra. Occorre verificare che cosa si voleva colpire, quali informazioni fossero disponibili prima dell’attacco, quali precauzioni siano state adottate e quale danno civile fosse prevedibile rispetto al vantaggio militare atteso. Un guasto o un riconoscimento sbagliato non diventano automaticamente crimini: possono comportare altre responsabilità, ma per una condanna servono gli elementi specifici del reato.
droni guidati dall'ia dataroom 4
Lo Statuto di Roma scrive chiaramente: «Errore tecnico, violazione del diritto umanitario e crimine di guerra non sono sinonimi». Il secondo passaggio riguarda l’operatore: poteva verificare il bersaglio? Aveva informazioni sufficienti? Quanto tempo aveva per decidere? Poteva fermare l’attacco? La presenza di una persona davanti a uno schermo non garantisce, da sola, un controllo effettivo. […] Non è un’assoluzione del soldato, ma una ragione per non scaricare automaticamente su di lui tutta la responsabilità.
droni guidati dall'ia dataroom 3
RISALIRE AL COMANDO
Il terzo passaggio riguarda chi ha ordinato l’attacco e stabilito come impiegare l’arma, ovvero chi ha scelto l’area operativa e chi ha deciso quanta autonomia concedere al sistema. Un comandante può rispondere per aver ordinato un crimine, ma anche per i crimini delle forze sotto il suo controllo effettivo, se non ha adottato le misure necessarie e ragionevoli per prevenirli, reprimerli o segnalarli. In sostanza l’automazione non cancella i doveri di comando.
RESPONSABILITÀ DEL PRODUTTORE
Il quarto passaggio porta dentro l’azienda e può coinvolgere dirigenti e sviluppatori. L’articolo 25 dello Statuto di Roma prevede la responsabilità di chi, allo scopo di agevolare un crimine, aiuta a commetterlo, anche fornendo i mezzi. Facciamo un esempio ipotetico: un reparto chiede di modificare un programma per identificare e attaccare deliberatamente civili. Un responsabile tecnico realizza quella modifica. […]
droni guidati dall'ia dataroom 2
Diverso è vendere un programma utilizzabile legittimamente, che il cliente impiega poi per un attacco criminale. Il contratto di fornitura non dimostra il concorso.
E non basta nemmeno conoscere genericamente i rischi della tecnologia. Bisogna ricostruire che cosa ciascuno abbia fatto, saputo e voluto: istruzioni, richieste del cliente, modifiche, test, avvertimenti e comunicazioni possono diventare elementi dell’indagine.
Sappiamo che la Corte penale internazionale giudica persone fisiche, non società, poiché le eventuali responsabilità dell’azienda dipendono dagli ordinamenti nazionali. E trovare un componente commerciale dentro un drone non dimostra, da solo, la complicità del produttore. Né un difetto del software equivale automaticamente a un crimine di guerra. […]
droni guidati dall'ia dataroom 1
IL CASO DELLE MINE ANTIUOMO
Per le mine la decisione è stata quella di vietare la produzione, non soltanto un determinato impiego. La Convenzione di Ottawa del 1997 proibisce agli Stati aderenti l’uso, lo sviluppo, produzione, acquisizione, stoccaggio e trasferimento delle mine antipersona, salvo l’utilizzo di quelle esistenti per scopo di addestramento.
[…] Il caso delle mine però è diverso dal concorso in un atto criminale, e non si può estendere automaticamente quel tipo di divieto a ogni software militare che utilizzi l’AI. Tuttavia il Comitato internazionale della Croce Rossa chiede nuove proibizioni e restrizioni specifiche per i sistemi autonomi, complementari alle regole del diritto umanitario già applicabili. […]
