IL SELVAGGIO WEB - SU INTERNET BASTANO POCHI EURO PER ACQUISTARE UN VIDEO DEEPFAKE E SPOPOLANO QUELLI PORNO CON PROTAGONISTI ATTRICI E VIP - MA LA TECNOLOGIA PUO' ESSERE UTILIZZATA ANCHE PER MASCHERARE UN CRIMINE SOSTITUENDO L'IMMAGINE DEL DELINQUENTE CON QUELLA DI UN INNOCENTE E IN FUTURO POTREBBE MINACCIARE LA DEMOCRAZIA: IN RETE CIRCOLA UN FILMATO DI XI JINPING CHE DICHIARA UNA GUERRA NUCLEARE E UNA DELLA REGINA CHE... - VIDEO
Dagotraduzione dal Sun
Michael Grothaus ha puntato la pistola contro un ciclista: voleva il suo zaino. La clip, che dura 90 secondi, mostra la vittima che riesce a fuggire. È stato fortunato, l’uomo armato sapeva che avrebbe «ucciso quest’uomo» se i passanti non lo avessero fermato.
Tuttavia, non si tratta del vero Michael Grothaus, ma di un “deepfake”, un video in cui il volto di Michael è stato sovrapposto a quello di un altro uomo attraverso la tecnologia dell’intelligenza artificiale.
Grothaus è un giornalista, e stava facendo alcune ricerche per il suo nuovo libro, “Trust No One”, che esplora i trucchi, astuti e terrificanti, che potrebbero vedere una persona innocente apparire in un porno o commettere un crimine.
I deepfake sono andati fuori controllo dopo essere emersi per la prima volta nel 2017, e poiché la tecnologia continua ad avanzare, le cose probabilmente andranno solo peggio. La scorsa settimana è riemerso online un video porno dell’attrice Addison Rae, già smentito l’anno scorso come falso. E non è la sola. Su Internet, ci sono video falsi che mostrano le star di Hollywood impegnate in orge, il presidente cinese Xi Jinping che dichiara una guerra nucleare e Tom Cruise che gioca a golf.
Grothaus si è tuffato a fondo in questo mondo oscuro e infido per il suo nuovo libro e ha chiesto che fosse realizzato un deepfake di sé stesso. Su una piattaforma crittografata, uno sconosciuto gli ha raccontato di creare video convincenti in meno di due giorni per 200 dollari (175 euro). Secondo il giornalista questo tipo di “deepfake a noleggio” è piuttosto costoso rispetto ad altri che in rete pubblicizzano i loro servizi tra 17 e i 130 euro.
Il mago della tecnologia sulla piattaforma crittografata, che si fa chiamare Brad, ha detto di aver lavorato su «più di 20 ma meno di 100» video e tutti, tranne uno, volevano un falso porno con una celebrità. L’unica richiesta diversa era quello di un uomo che voleva essere sovrapposto al protagonista di un porno: «Voleva essere quello che si fotteva questa pornostar coreana in questo video. Era la sua pornostar preferita e il suo video preferito» ha detto Brad.
Grothaus gli ha chiesto invece una clip di sé stesso che commetteva un crimine. Il suo obiettivo era quello di esporre la potenziale pericolosità di questo software, e Brad lo ha realizzato con facilità. Ha avuto bisogno solo di un breve video per realizzarlo.
Molte persone sono state prese di mira utilizzando la tecnologia deepfake, tra cui l’attrice Scarlett Johansson, e come altri, non è stata in grado di reagire. Ci sono migliaia di nudi photoshoppati della star Marvel e anche centinaia di film porno falsi, che continuano a essere prodotti.
«Il fatto è che cercare di proteggersi da Internet e dalla sua depravazione è fondamente una causa persa» ha detto Scarlett Johansson al Washington Post nel 2018. «Niente può impedire a qualcuno di tagliare e incollare la mia immagine o quella di chiunque altro su un corpo diverso e farlo sembrare stranamente realistico quanto desiderato». Il suo tentativo di combattere è stato «un inseguimento inutile, legalmente, sopratutto perché Internet è un vasto buco nero di oscurità che divora».
Grothaus ha spiegato che alcuni criminali utilizzano la tecnologia deepfake a fini di estorsione. Per esempio, fingendo un interesse sentimentale ottengono foto delle loro vittime e le usano come ricatto, o per soldi o per sesso. «E per quelli che non accettano? Bene, si vedranno con oggetti domestici imbarazzanti inseriti nei loro orifizi quando si cercheranno su Google in futuro». «Questa possibilità molto reale è agghiacciante».
Un altro aspetto di questo lato oscuro del web è la creazione di voci sintetiche che vengono utilizzate per imitare la voce reale di una persona. Una società energetica britannica è stata truffata per 180 mila sterline quando gli hacker hanno finto di essere il loro amministratore delegato e hanno dato mandato di trasferire fondi su un conto in Ungheria. «Il software è stato in grado di imitare non solo la voce, ma la tonalità, la punteggiatura, l’accento tedesco».
Gli esperti informatici hanno avvisato che potrebbero passare solo pochi anni prima che i criminali siano in grado di manomettere digitalmente i filmati delle telecamere a circuito chiuso per nascondere oppure oscurare i volti delle persone. Julija Kalpokiene, una associata legale specializzata in informatica e dati, ha spiegato che si tratta di un rischio particolare perché «tutti i sistemi di sorveglianza sono interconnessi».
«Un criminale informatico potrebbe essere in grado di modificare i sistemi in modo che la sorveglianza non mostri chi è il vero criminale», ha detto al Daily Star.
All'inizio di quest'anno, la facilità di utilizzo della tecnologia deepfake è stata svelata quando un utente di TikTok è stato in grado di imitare Tom Cruise.
I follower sono rimasti sbalorditi dalla natura realistica e convincente delle clip, in cui quella un falso Tom gioca a golf. Un utente lo ha descritto come «uno dei migliori deepfake che abbia mai visto» e ha notato che anche la voce era «davvero buona».
tom cruise deepfake titktok 10
Un altro ha aggiunto: «Questi deepfake stanno diventando preoccupanti. Come diavolo possiamo fidarci di ciò che vediamo in TV?». L'anno scorso, Channel 4 ha impiegato una tattica simile nel suo Deepfake Queen: 2020 Alternative Christmas Message.
Nella clip, si vede una finta versione di Sua Maestà ballare e volare in aria dopo aver dato a Meghan Markle una sferzata verbale.
Video simili sono stati realizzati con il presidente russo Vladimir Putin, con Mark Zuckerberg di Facebook e con gli ex presidenti degli Stati Uniti Donald Trump e Barack Obama. Anche politici britannici tra cui il primo ministro Boris Johnson e l'ex leader laburista Jeremy Corbyn sono stati presi di mira.
deepfake messaggio natale regina elisabetta 2
Gli esperti avvertono che esiste una minaccia per la democrazia poiché le persone e le nazioni meno esperte di tecnologia potrebbero non essere consapevoli che le clip sono false. Ciò potrebbe causare gravi danni a livello nazionale e internazionale portando i cittadini a cambiare le loro preferenze di voto, lanciare proteste e persino portare alla guerra.
Nelle clip, tutti gli individui sono stati manipolati per dire o fare cose che potrebbero non recitare mai nella vita reale. Se il pubblico crede ai deepfake, non solo mette a rischio la reputazione di un individuo, ma anche il suo lavoro, le sue relazioni e la sua libertà.
