INTELLIGENZA ARTIFICIALE, CONSEGUENZE REALI - L’USO DELL’IA IN OGNI SETTORE DELLA SOCIETÀ, SPINTO DAI BIG DELLA SILICON VALLEY, STA DIVENTANDO UN'EMERGENZA SOCIALE: SE I DATI SU CUI SI APPOGGIANO NON SONO ESATTI, IL SISTEMA VA IN CONFUSIONE, CON CONSEGUENZE DISASTROSE – LO STATO DI NEW YORK HA INTRODOTTO UNA LEGGE CHE OBBLIGA LA CONTROVERIFICA UMANA SULLE ASSUNZIONI GESTITE DALL'IA E IN AMERICA È STATO FONDATO UN ISTITUTO INDIPENDENTE PER…
Raffaele D'Ettorre per "il Messaggero"
Etica e Intelligenza Artificiale vivono da sempre in una relazione complicata, dove dominano bisticci e tradimenti. I big della Silicon Valley spingono con forza per implementare l'IA in ogni settore della società civile, senza però adottare contromisure efficaci per arginare gli episodi sempre più frequenti di pregiudizio e discriminazione causati dalle macchine.
A tamponare un problema che negli States sta diventando una vera e propria emergenza sociale è intervenuto lo scorso mese il consiglio comunale di New York, introducendo per la prima volta nella storia americana una legge che obbliga i datori di lavoro alla controverifica umana sulle assunzioni gestite dall'IA.
assunzioni lavoro automatizzate 4
IL DIBATTITO
È un segnale importante verso la risoluzione di un dibattito che si trascina da anni. E non stupisce che arrivi proprio dagli States, dove gli algoritmi sono ormai parte integrante delle dinamiche aziendali e governative. Dove le scelte effettuate dalle macchine vengono spesso presentate senza alcuna supervisione. E dove un loro errore può portare a conseguenze disastrose.
assunzioni lavoro automatizzate 3
Il 90% dei proprietari di case americani, ad esempio, si appoggia ad agenzie esterne per effettuare controlli sul background dei potenziali inquilini, con lo scopo di valutarne affidabilità e solvenza. Controlli che sempre più spesso vengono delegati totalmente all'IA. Con un enorme problema di fondo: la precisione dell'algoritmo che li gestisce dipende principalmente dal suo database di riferimento, cioè da quanti e quali dati sono stati forniti.
intelligenza artificiale discriminazione 2
LA CONFUSIONE
Se quei dati non sono esatti o se l'algoritmo non è abbastanza allenato, il sistema va in confusione. E succede così che un appaltatore esterno per un'agenzia militare di cybersecurity venga scambiato per un sospetto terrorista con cui condivide solo il cognome. O che 19000 residenti dello Stato del Michigan rimangano senza assistenza alimentare per un errore dell'IA.
assunzioni lavoro automatizzate 2
Un sistema simile è stato messo in campo anche da Amazon per automatizzare le assunzioni: avendo nel database prevalentemente curriculum maschili, l'algoritmo ha imparato nel tempo a preferire i candidati maschi.
assunzioni lavoro automatizzate 1
A dare man forte allo Stato intervengono anche i ricercatori, innescando dal basso un movimento che punta a mettere in discussione la logica del profitto a tutti i costi e riportando la questione etica in cima alla scaletta dei lavori. Nasce così DAIR, Distributed AI Research Institute, un istituto di ricerca finanziato in modo indipendente e «radicato nella comunità, impostato per contrastare l'influenza pervasiva delle Big Tech sulla ricerca, lo sviluppo e l'implementazione dell'IA», come si legge nel sito ufficiale.
A fondarlo è Timnit Gebru, ricercatrice con anni di esperienza nel campo dell'etica applicata all'IA, licenziata da Google un anno fa proprio per aver sottolineato limiti e rischi dei sistemi di intelligenza artificiale implementati dalla società. Lo scopo del suo istituto di ricerca è chiaro: mettere in discussione i processi utilizzati in aziende come Google, Amazon e Meta, dove gli algoritmi operano ormai a pieno regime ma dove la ricerca non tiene il passo con i problemi sociali.
LE CONTRADDIZIONI
L'esperienza di Gebru offre oggi due importanti spunti di riflessione. Da un lato mette in evidenza tutte le contraddizioni di un'industria che mal digerisce il confronto con l'etica. E poco cambia se è quella stessa industria a finanziare le ricerche: l'abbiamo visto con evidenza solare nel caso della whistleblower Frances Haugen e di quegli scottanti Facebook Files contenenti indagini volute e svolte dalla stessa azienda ma i cui risultati non piacquero al punto che si cercò di insabbiarli.
intelligenza artificiale discriminazione 1
Dall'altro lato, dimostra che il problema dell'etica oggi non può più essere risolto chiudendolo a chiave in soffitta nella speranza che prima o poi sparisca. Lo scorso 21 aprile a Bruxelles è stata presentata la prima Proposta di regolamento sull'Intelligenza Artificiale, con lo scopo di creare anche da noi un quadro normativo unico in tema di IA.
intelligenza artificiale discriminazione 4
Un segnale che fa coppia con l'eco che arriva da oltreoceano, mostrando un interesse globale nella regolamentazione di un mercato lasciato per troppo tempo a se stesso. E costringendo i leader del settore, stretti adesso tra l'incudine statale e il martello dei ricercatori indipendenti, ad affrontare il problema etico una volta per tutte.
intelligenza artificiale discriminazione 5
timnit gebru 2
INTELLIGENZA ARTIFICIALE 
INTELLIGENZA ARTIFICIALE
INTELLIGENZA ARTIFICIALE 
INTELLIGENZA ARTIFICIALE 
intelligenza artificiale discriminazione 3
