INTELLIGENZA ARTIFICIALE, CONSEGUENZE REALI - L’USO DELL’IA IN OGNI SETTORE DELLA SOCIETÀ, SPINTO DAI BIG DELLA SILICON VALLEY, STA DIVENTANDO UN'EMERGENZA SOCIALE: SE I DATI SU CUI SI APPOGGIANO NON SONO ESATTI, IL SISTEMA VA IN CONFUSIONE, CON CONSEGUENZE DISASTROSE – LO STATO DI NEW YORK HA INTRODOTTO UNA LEGGE CHE OBBLIGA LA CONTROVERIFICA UMANA SULLE ASSUNZIONI GESTITE DALL'IA E IN AMERICA È STATO FONDATO UN ISTITUTO INDIPENDENTE PER…

INTELLIGENZA ARTIFICIALE

Raffaele D'Ettorre per "il Messaggero"

Etica e Intelligenza Artificiale vivono da sempre in una relazione complicata, dove dominano bisticci e tradimenti. I big della Silicon Valley spingono con forza per implementare l'IA in ogni settore della società civile, senza però adottare contromisure efficaci per arginare gli episodi sempre più frequenti di pregiudizio e discriminazione causati dalle macchine. 

A tamponare un problema che negli States sta diventando una vera e propria emergenza sociale è intervenuto lo scorso mese il consiglio comunale di New York, introducendo per la prima volta nella storia americana una legge che obbliga i datori di lavoro alla controverifica umana sulle assunzioni gestite dall'IA. 

assunzioni lavoro automatizzate 4

IL DIBATTITO

È un segnale importante verso la risoluzione di un dibattito che si trascina da anni. E non stupisce che arrivi proprio dagli States, dove gli algoritmi sono ormai parte integrante delle dinamiche aziendali e governative. Dove le scelte effettuate dalle macchine vengono spesso presentate senza alcuna supervisione. E dove un loro errore può portare a conseguenze disastrose. 

assunzioni lavoro automatizzate 3

Il 90% dei proprietari di case americani, ad esempio, si appoggia ad agenzie esterne per effettuare controlli sul background dei potenziali inquilini, con lo scopo di valutarne affidabilità e solvenza. Controlli che sempre più spesso vengono delegati totalmente all'IA. Con un enorme problema di fondo: la precisione dell'algoritmo che li gestisce dipende principalmente dal suo database di riferimento, cioè da quanti e quali dati sono stati forniti. 

intelligenza artificiale discriminazione 2

LA CONFUSIONE 

Se quei dati non sono esatti o se l'algoritmo non è abbastanza allenato, il sistema va in confusione. E succede così che un appaltatore esterno per un'agenzia militare di cybersecurity venga scambiato per un sospetto terrorista con cui condivide solo il cognome. O che 19000 residenti dello Stato del Michigan rimangano senza assistenza alimentare per un errore dell'IA. 

assunzioni lavoro automatizzate 2

Un sistema simile è stato messo in campo anche da Amazon per automatizzare le assunzioni: avendo nel database prevalentemente curriculum maschili, l'algoritmo ha imparato nel tempo a preferire i candidati maschi. 

assunzioni lavoro automatizzate 1

A dare man forte allo Stato intervengono anche i ricercatori, innescando dal basso un movimento che punta a mettere in discussione la logica del profitto a tutti i costi e riportando la questione etica in cima alla scaletta dei lavori. Nasce così DAIR, Distributed AI Research Institute, un istituto di ricerca finanziato in modo indipendente e «radicato nella comunità, impostato per contrastare l'influenza pervasiva delle Big Tech sulla ricerca, lo sviluppo e l'implementazione dell'IA», come si legge nel sito ufficiale. 

timnit gebru 1

A fondarlo è Timnit Gebru, ricercatrice con anni di esperienza nel campo dell'etica applicata all'IA, licenziata da Google un anno fa proprio per aver sottolineato limiti e rischi dei sistemi di intelligenza artificiale implementati dalla società. Lo scopo del suo istituto di ricerca è chiaro: mettere in discussione i processi utilizzati in aziende come Google, Amazon e Meta, dove gli algoritmi operano ormai a pieno regime ma dove la ricerca non tiene il passo con i problemi sociali. 

timnit gebru 3

LE CONTRADDIZIONI 

L'esperienza di Gebru offre oggi due importanti spunti di riflessione. Da un lato mette in evidenza tutte le contraddizioni di un'industria che mal digerisce il confronto con l'etica. E poco cambia se è quella stessa industria a finanziare le ricerche: l'abbiamo visto con evidenza solare nel caso della whistleblower Frances Haugen e di quegli scottanti Facebook Files contenenti indagini volute e svolte dalla stessa azienda ma i cui risultati non piacquero al punto che si cercò di insabbiarli. 

intelligenza artificiale discriminazione 1

Dall'altro lato, dimostra che il problema dell'etica oggi non può più essere risolto chiudendolo a chiave in soffitta nella speranza che prima o poi sparisca. Lo scorso 21 aprile a Bruxelles è stata presentata la prima Proposta di regolamento sull'Intelligenza Artificiale, con lo scopo di creare anche da noi un quadro normativo unico in tema di IA. 

intelligenza artificiale discriminazione 4

Un segnale che fa coppia con l'eco che arriva da oltreoceano, mostrando un interesse globale nella regolamentazione di un mercato lasciato per troppo tempo a se stesso. E costringendo i leader del settore, stretti adesso tra l'incudine statale e il martello dei ricercatori indipendenti, ad affrontare il problema etico una volta per tutte. 

intelligenza artificiale discriminazione 5timnit gebru 2INTELLIGENZA ARTIFICIALE INTELLIGENZA ARTIFICIALEINTELLIGENZA ARTIFICIALE INTELLIGENZA ARTIFICIALE intelligenza artificiale discriminazione 3