IL LIBRO INCHIESTA "LA TUA FACCIA CI APPARTIENE", DELLA GIORNALISTA DEL "NYT" KASHMIR HILL, FA LUCE SULLA STARTUP SPECIALIZZATA NEL RICONOSCIMENTO FACCIALE "CLEARVIEW AI" - L'AZIENDA RASTRELLA FOTO E DATI DAL WEB E LE RIVENDE AD AZIENDE PRIVATE E FORZE DI POLIZIA: "UN AFFARE DEL GENERE PUÒ DIVENTARE UN’ARMA IN INFINITI MODI DIVERSI. IL PROBLEMA NON SONO I GOVERNI AUTORITARI, MA ANCHE IL 'PICCOLO FRATELLO'. LA PERSONA CON CUI SENZA PENSARCI LITIGHIAMO POTREBBE FOTOGRAFARCI, SCOPRIRE COME CI CHIAMIAMO, E METTERE ONLINE QUANTO BASTA A DISTRUGGERCI LA REPUTAZIONE…"
Kashmir Hill per “la Repubblica”
Messi di fronte ai presunti risultati di Clearview AI gli specialisti di privacy e di diritto prima inorridivano, poi dicevano tutti la stessa cosa, che un affare del genere può diventare un’arma in infiniti modi diversi. Un agente senza scrupoli potrebbe usarla per stalkerare la ragazza o il ragazzo su cui ha messo gli occhi. Un governo straniero potrebbe procurarsi materiale per ricattare gli oppositori, o sbatterli in galera.
La polizia potrebbe identificare all’istante chi partecipa alle manifestazioni, e questo anche in Paesi noti per reprimere o uccidere i dissidenti, come Cina e Russia. Con telecamere di sorveglianza a ogni angolo o quasi, un despota potrebbe tracciare i suoi rivali, seguirne movimenti e conversazioni, e procurarsi immagini compromettenti, o mettere insieme dossier da usare contro di loro. E in prospettiva potrebbe diventare impossibile avere segreti per una ragione qualsiasi, sicurezza inclusa.
Il problema sono naturalmente i governi autoritari, e il Grande Fratello in cui rischiano di trasformarsi, ma a fare anche più paura è il Piccolo Fratello: il vicino di casa, il partner possessivo, lo stalker, lo sconosciuto che per una ragione o per l’altra ce l’ha con te. Il giorno che fosse a disposizione di tutti, Clearview AI creerebbe un’intera cultura basata sulla paranoia. Fondata.
la tua faccia ci appartiene di kashmir hill
Sarebbe un po’ come se tutti diventassimo dalla sera alla mattina celebrities, facce che chiunque riconosce.
Potremmo scordarci di entrare in farmacia e comprare preservativi, test di gravidanza o crema per le emorroidi senza che nessuno lo sappia. Il vicino di tavolo al ristorante potrebbe attribuirci una conversazione riservata. E se camminando per strada vi venisse in mente di telefonare a qualcuno e raccontargli un pettegolezzo, dovreste considerare che qualsiasi passante potrebbe prendere quello che dite e postarlo su Twitter, a vostro nome.
La persona con cui senza pensarci litighiamo in un negozio, o a cui tagliamo la strada, potrebbe fotografarci, scoprire come ci chiamiamo, e mettere online quanto basta a distruggerci la reputazione. Quanto agli interlocutori professionali, avrebbero uno strumento nuovo per discriminarci, rifiutando di assumerci perché abbiamo lavorato per qualcuno di sgradito, o perché chissà quando abbiamo detto qualcosa di sconveniente online.
clearview intelligenza artificiale 1
Gli esperti di cui sopra non erano sorpresi dal fatto che a spingerci in questa nuova realtà fosse una startup sconosciuta, anziché un gigante tech come Google o Facebook. «Le piccole realtà, quelle che sfuggono ai radar, sono in grado di fare danni incalcolabili,» mi ha detto uno di loro. E, una volta che li hanno fatti, è difficile tornare indietro.
Spesso per difendere una nuova tecnologia la si paragona a un coltello, che può essere usato bene o male. Ma le tecnologie, dai social media al riconoscimento facciale, non sono neutre: e sono parecchio più complicate di un coltello. Chi le progetta prende infinite decisioni sull’architettura delle piattaforme, modulando le future interazioni degli utenti. Tanto per fare un esempio, OkCupid spinge chi cerca un partner a valutarne la compatibilità attraverso lunghe schede biografiche e questionari, mentre Tinder punta tutto sull’aspetto fisico, presentando foto che si possono scorrere saltando da una all’altra. Chi controlla una tecnologia molto diffusa ha un grande potere sulla società. Già.
clearview intelligenza artificiale 6
Ma chi controllava Clearview? Con l’aiuto di un collega ho agganciato un detective texano che, a patto di mantenere l’anonimato, era disposto a fare qualche ricerca. È andato sul sito di Clearview e ha richiesto l’accesso. A differenza mia, entro un’ora ha ricevuto istruzioni per creare un account e avviare il periodo gratuito di prova. L’unica condizione era un indirizzo mail corrispondente a un dipartimento di polizia. L’agente glielo ha mandato, insieme a qualche foto di sospetti di cui già sapeva tutto. A stretto giro, Clearview gli ha inviato una serie di riscontri, tutti corretti.
clearview intelligenza artificiale 4
A quel punto il mio contatto ha caricato una sua foto. Visto che da anni stava molto attento a non mettere nulla di sé online era sicuro che non avrebbero trovato niente. E quando si è visto arrivare un suo scatto in divisa, con una faccetta minuscola e sfocata, c’è rimasto. In realtà era il dettaglio di un’immagine molto più grande, con un link che rimandava a Twitter.
Eh sì, perché l’anno prima qualcuno aveva twittato la foto di un Pride, ed essendo lì in servizio il detective si era ritrovato su uno sfondo altrui. Zoomando sulla targhetta riusciva a leggere il suo nome. Neanche immaginava che esistesse uno strumento di quella potenza. Sarebbe stato indubbiamente utilissimo per alcune branche della polizia, pensava, ma una volta messo a disposizione del pubblico non voleva neanche immaginare i rischi per gli agenti sotto copertura.
clearview intelligenza artificiale 5
Gli ho detto che non ero ancora riuscita ad accedere a una demo, e che un suo collega aveva mandato a Clearview una mia foto senza ottenere nulla. Ci ha provato anche lui, e il risultato è stato lo stesso. Qualche minuto dopo gli è suonato il telefono. Era un numero sconosciuto, con un prefisso della Virginia. Ha risposto. «Buongiorno, sono Marko, servizio clienti di Clearview AI. Abbiamo qualche domanda per lei. Come mai ha caricato la foto di una giornalista del New York Times ? ». «L’ho fatto?» ha risposto il poliziotto, in imbarazzo. «Sì, la foto della signora Kashmir Hill, che lavora al New York Times. La conosce?» ha chiesto Marko.
clearview intelligenza artificiale 2
«Sono in Texas, come faccio a conoscerla? ». Dopo avergli comunicato che caricare foto di giornalisti era «contrario alla policy aziendale», il rappresentante della società gli ha disattivato l’account. Constatando di persona il livello di sorveglianza sull’uso della app, il poliziotto ha fatto un salto sulla sedia. E mi ha immediatamente chiamato. Anche a me sono venuti i brividi. Era una dimostrazione molto perturbante del potere in mano alla misteriosa società. Oltre a vedere in tempo reale di chi si stessero occupando le forze dell’ordine, potevano scegliere se dargli quello che cercavano oppure no. Decidevano loro. Adesso capivo perché gli altri poliziotti erano spariti nel nulla.
riconoscimento facciale 3
riconoscimento facciale 2
clearview ai 
riconoscimento facciale 1
clearview intelligenza artificiale 8
