I CACCIATORI DI “FAKE” ONLINE - SVILUPPATO UN SOFTWARE DI INTELLIGENZA ARTIFICIALE PER SMASCHERARE I “DEEPFAKE” CHE GIRANO IN RETE – “ENTRO L'ANNO SARÀ PRONTO UN SERVIZIO ONLINE SU CUI L'UTENTE POTRÀ CARICARE L'IMMAGINE E RICEVERE IN POCO TEMPO UN GIUDIZIO SULLA GENUINITÀ O MENO DELLA FOTO. ABBIAMO STIMATO È CHE IL LIVELLO DI ACCURATEZZA DEL NOSTRO SERVIZIO OSCILLA TRA 85 E 90%” – “IL PROGETTO HA PRIORITÀ NELLA LOTTA ALLA DISINFORMAZIONE"
Paolo Travisi per "il Messaggero"
Mai così incerti, come oggi, che le immagini su web e social siano reali. Non parliamo di semplici ritocchi da Photoshop, ma di foto del tutte false, visi creati da intelligenze artificiali, talmente sofisticate da essere indistinguibili dal nostro cervello. Si chiamano deepfake, un fenomeno recente, di questi anni, che se usati con scopi malevoli, possono fuorviare la nostra comprensione della realtà filtrata dai social ed alimentare una pericolosa disinformazione.
Il gruppo di ricerca all'Università di Trento, guidato da Giulia Boato, già da qualche anno è impegnato nello sviluppo di software di intelligenza artificiale per smascherare i falsi. Ed ora si tenta un passo in avanti importante, con il progetto TrueBees, insieme alla startup U-Hopper di Daniele Miorandi, che entro l'anno potrebbe realizzare uno dei primi fakes-detector, che integra l'IA alla blockchain.
il deepfake di putin ciao 2021 19
Miorandi, oggi quali sono gli utilizzi di deepfake più diffusi?
«Possiamo identificare due filoni di utilizzo. Il primo, numericamente più importante, ha una finalità ironico-satirica e usa l'immagine falsificata per costruire dialoghi surreali tra personaggi di spicco, ma è un utilizzo etico della tecnologia. L'altro filone invece è la falsificazione mirata ad alimentare la disinformazione delle persone sul web, prendendo di mira personaggi pubblici o politici. Spesso dietro ci sono delle vere e proprie organizzazioni criminali, che lavorano per apparati dello stato e questo ci spaventa, ma dobbiamo capire che è un fenomeno che esiste e dobbiamo preparare gli strumenti per combatterlo».
Un progetto condotto da UniTrento, Unchained, ha rilevato che davanti ad immagini false, appena il 10% delle persone ha scovato la falsità. Un dato allarmante?
«Sì e la situazione sta peggiorando perché la tecnologia evolve molto più velocemente delle nostre capacità cognitive. Recentemente il gruppo di Unitrento, coordinato da Giulia Boato, ha dimostrato che le immagini finte sembrano più reali di quelle vere. Significa che dobbiamo investire ancora molto sulla ricerca, facendo un ricorso più ampio all'intelligenza artificiale, che ha permesso di creare i deepfake».
E per questa ragione è nato il vostro progetto comune, TrueBees, perché il grande problema è riuscire a capire l'autenticità di un'immagine diffusa sui social.
«Abbiamo intercettato la necessità di aziende che lavorano nei media, di uno strumento in grado verificare l'autenticità delle immagini. Abbiamo unito le nostre conoscenze con l'obiettivo di creare un database di immagini, in cui gli algoritmi sviluppati da UniTrento risolvano il problema della verifica e la tecnologia blockchain fornita da noi, dia un'ulteriore garanzia di affidabilità delle immagini».
Come funzionerà il vostro fake detector?
«Entro l'anno sarà pronto un servizio online su cui l'utente potrà caricare l'immagine e ricevere in poco tempo un giudizio sulla genuinità o meno della foto. Un esempio. L'utente trova l'immagine di un politico di spicco che compie una determinata azione e vuole verificare che non sia un fake; la invia sulla nostra piattaforma, che controlla la presenza della foto sul database, confrontandola tramite l'IA, l'intelligenza artificiale, ad altre immagini con caratteristiche simili anche se con delle variazioni.
Se presente, è restituito il valore di autenticità già fissato da analisi precedenti, se, invece non c'è, l'IA compie delle valutazioni e restituisce una percentuale di autenticità da 0 a 100%, poi spetta all'uomo di scegliere come interpretare ed usare quel dato. Quello che abbiamo stimato è che il livello di accuratezza del nostro servizio oscilla tra 85 e 90%».
Quali sono i parametri che usa l'IA per assegnare un valore di autenticità?
«L'IA verifica la costruzione dell'immagine, analizzando i pattern, cioè le trame ricorrenti all'interno dei singoli pixel, che sono la traccia lasciata dalle intelligenze artificiali che hanno elaborato e falsificato l'immagine. Sulla base dell'analisi vede ciò che l'occhio umano non riesce a distinguere».
Ed in che modo il vostro sistema riesce a distinguere se un'immagine compressa in diversi formati è vera?
«Questa è la sfida più importante a livello scientifico che dovremo affrontare in questo progetto; il rischio, infatti, è proprio che le varie trasformazioni cancellino le tracce del falsario. Il gruppo di ricerca di Unitrento sta adattando tecniche di frontiera del deep learning, aumentando i dati su cui si allena la rete, con esempi differenziati, in modo tale da rendere l'apprendimento migliore e scalabile a casi reali in cui le immagini possano essere state processate e compresse come quelle sui social».
Questa sarebbe un'innovazione importante, come lo è l'introduzione della blockchain.
«La blockchain offre una garanzia ulteriore che le percentuali di veridicità del database non siano state manipolate da hacker. Il livello di sicurezza può essere molto elevato se la blockchain è stata configurata in modo appropriato con tutti i crismi di sicurezza, ma la garanzia assoluta non è di questo mondo».
Sul mercato esistono prodotti simili al vostro?
«Ci sono molti prototipi di ricerca sull'identificazione del deepfake, ma sono lontani da un prodotto già finito; Microsoft, Google e Facebook hanno degli strumenti interni ed esistono servizi attivi nell'identificazione via webcam di utenti che scelgono prodotti finanziari, mentre il nostro progetto, finanziato dall'Ue, di cui è partner anche una grande media company tedesca, ha una grande priorità nella lotta alla disinformazione che ha un impatto sociale importante».
Prenderete in esame anche i video?
«No per ora, anche se sono più diffusi, ma in realtà è l'immagine quella più difficile da distinguere, mentre i video non hanno ancora una tecnologia così avanzata. Ora stiamo costruendo le basi per arrivare anche all'analisi dei video».
deepfake 10
samsung living portraits 1
il deep fake della gioconda
francesco oggiano diventa sylvester stallone con impression
renzi deepfake
il deepfake di matteo salvini al papeete by striscia la notizia
impression app per deepfake 2
impression app per deepfake
deepfake 9
francesco oggiano diventa cristiano ronaldo con impression
deepfake 11
deepfake 7
