intelligenza artificiale razzismo

CHE RAZZA DI TECNOLOGIA - UNO STUDIO AMERICANO SUI ROBOT HA SCOPERTO CHE L'INTELLIGENZA ARTIFICIALE HA ASSOCIATO LE IMMAGINI DI PERSONE DI COLORE ALLA PAROLA "CRIMINALE" E QUELLE DI DONNE LATINE A PAROLE COME "CASALINGA" E "BIDELLA" - IL PROBLEMA È CHE MOLTI SVILUPPATORI DI SISTEMI DI INTELLIGENZA ARTIFICIALE PER IL RICONOSCIMENTO DI PERSONE E OGGETTI ADDESTRANO I LORO AUTOMI USANDO SET DI DATI DISPONIBILI GRATUITAMENTE SU INTERNET, COL RISCHIO DI …

Anna Lombardi per “la Repubblica”

 

intelligenza artificiale discriminazione 3

Il mondo - razzista - dei robot. Quelli al centro di uno studio condotto dalla Johns Hopkins University con il Georgia Institute of Technology e l'Università di Washington che hanno associato le immagini di persone di colore alla parola "criminale" e quelle di donne latine a parole come "casalinga" e "bidella". Già: anche le Intelligenze Artificiali, comunemente percepite come entità neutrali, possono essere preda di pregiudizi. Stereotipi umani, appresi attraverso quelli che Andrew Hunt, a capo dello studio, definisce «modelli imperfetti di rete neurale».

 

intelligenza artificiale discriminazione 2

È stato proprio lui a lanciare l'allarme intervenendo alla conferenza FAccT 2022 dell'Association for Computing Machinery in Corea del Sud: «Rischiamo di creare una generazione di robot razzisti e sessisti». Il problema, spiega, è che molti sviluppatori di sistemi di Intelligenza Artificiale per il riconoscimento di persone e oggetti addestrano i loro automi usando set di milioni di dati disponibili gratuitamente su Internet, spesso parziali: col rischio di inculcare contenuti distorti, e realizzare algoritmi tutt' altro che oggettivi.

 

intelligenza artificiale discriminazione 1

Un problema già riscontrato in altri ambiti: come quello dei software di riconoscimento facciale. Quando, per dire, nel 2016 il dipartimento di polizia di Chicago provò a sperimentare un algoritmo ideato dalla locale università per individuare presunti criminali finì per mettere sulla "lista dei sospetti" metà degli abitanti afroamericani della città. E il problema si è riproposto nel 2022 quando gli stessi studiosi hanno tentato di creare un sistema capace di predire dove accadranno nuovi potenziali crimini basandosi sui dati di passati omicidi e aggressioni.

 

intelligenza artificiale discriminazione 5

La novità dello studio sui robot sta nel tentativo di valutare le conseguenze dell'uso di algoritmi "imperfetti" nei "cervelli" di macchine autonome - ovvero usate nel mondo reale senza la supervisione dell'uomo, ad esempio nei magazzini - considerate a rischio di comportamenti potenzialmente "scorretti".

 

«L'allarme è concreto» dice a Repubblica Lorenzo Rosasco, che insegna Machine Learning all'Università di Genova, è visiting professor al Massachusetts Institute of Technology e collaboratore dell'Istituto Tecnologico Italiano. «Certo, lo studio mette l'accento sui robot contestualizzando il problema dell'intelligenza artificiale in un corpo. Ma il problema dei bias nel dataset dei software è noto. Ad algoritmi liberi e pre-codificati, si aggiungono semplicemente nuovi comandi. D'altronde è difficile capire se contengono elementi discriminatori, frutto di pregiudizi o magari semplicemente scaturiti dal fatto che modelli nati per uno scopo sono usati per altro».

 

intelligenza artificiale discriminazione 4

E in Europa, la situazione com' è? «Il dibattito è intenso, la regolamentazione degli algoritmi secondo i valori europei è un tema caldo, tanto che esistono grosse reti dedicate. Ma è complicato: bisognerebbe codificare questi valori, mettere vincoli agli algoritmi. Formare ingegneri capaci di parlare di filosofia ed etica con sociologi e avvocati. Servirebbe l'interazione di figure e saperi diversi. La fusione di competenze è davvero la nuova sfida della tecnologia».

Ultimi Dagoreport

donald trump giorgia meloni zelensky macron tusk starmer

DAGOREPORT - DOVE DIAVOLO È FINITO L’ATTEGGIAMENTO CRITICO FINO AL DISPREZZO DI GIORGIA MELONI SULLA ‘’COALIZIONE DEI VOLENTEROSI”? - OGGI LA RITROVIAMO VISPA E QUERULA POSIZIONATA SULL'ASSE FRANCO-TEDESCO-BRITANNICO, SEMPRE PRECISANDO DI “CONTINUARE A LAVORARE AL FIANCO DEGLI USA” - CHE IL CAMALEONTISMO SIA UNA MALATTIA INFANTILE DEL MELONISMO SONO PIENE LE CRONACHE: IERI ANDAVA DA BIDEN E FACEVA L’ANTI TRUMP, POI VOLA DA MACRON E FA L’ANTI LE PEN, ARRIVA A BRUXELLES E FA L’ANTI ORBÁN, INCONTRA CON MERZ E FA L’ANTI AFD, VA A TUNISI E FA L’ANTI SALVINI. UNA, NESSUNA, CENTOMILA - A MANTENERE OGNI GIORNO IL VOLUME ALTO DELLA GRANCASSA DELLA “NARRAZIONE MULTI-TASKING” DELLA STATISTA DELLA GARBATELLA, OLTRE AI FOGLI DI DESTRA, CORRONO IN SOCCORSO LE PAGINE DI POLITICA INTERNA DEL “CORRIERE DELLA SERA”: ‘’PARE CHE IERI MACRON SI SIA INALBERATO DI FRONTE ALL’IPOTESI DI UN SUMMIT A ROMA, PROPONENDO SEMMAI GINEVRA. MELONI CON UNA BATTUTA LO AVREBBE CALMATO” - SÌ, C’È SCRITTO PROPRIO COSÌ: “CON UNA BATTUTA LO AVREBBE CALMATO”, MANCO AVESSE DAVANTI UN LOLLOBRIGIDA QUALSIASI ANZICHÉ IL PRESIDENTE DELL’UNICA POTENZA NUCLEARE EUROPEA E MEMBRO PERMANENTE DEL CONSIGLIO ONU (CINA, FRANCIA, RUSSIA, REGNO UNITO E USA) - RIUSCIRÀ STASERA L’EROINA DAI MILLE VOLTI A COMPIERE IL MIRACOLO DELLA ‘’SIRINGA PIENA E MOGLIE DROGATA’’, FACENDO FELICI TRUMP E MACRON?

pippo baudo senato

SI E' SPENTO A 89 ANNI IL MITOLOGICO PIPPO BAUDO - L’UOMO CHE HA SCOPERTO TUTTI (PER PRIMO SE STESSO), DEMOCRISTIANO DI FERRO, HA ATTRAVERSATO CRISI DI GOVERNO E CAMBIAMENTI IN RAI E VANTA IL RECORD DEI FESTIVAL DI SANREMO CONDOTTI (13) – QUANDO SFIORÒ LA CRISI INTERNAZIONALE, NEL 1986, PER LO SKETCH DEL TRIO SOLENGHI-MARCHESINI-LOPEZ SULL'AYATOLLAH KHOMEINI. E QUANDO LANCIÒ BEPPE GRILLO CHE PRONUNCIÒ LA CELEBRE BATTUTA SU BETTINO CRAXI: "SE IN CINA SONO TUTTI SOCIALISTI, A CHI RUBANO?" (VIDEO) - "LO SHOWMAN DELLA TRADIZIONE, IL SUPERCONDUTTORE, L’ORGANIZZATORE DI UN INTRATTENIMENTO SEMPRE SINTONIZZATO SUL PENULTIMO PARADIGMA DEL CONSENSO POPOLARE, SENZA SQUILLI REAZIONARI E SENZA STRILLI AVANGUARDISTICI: CLASSI MEDIE, PUBBLICO MEDIO, SENSIBILITÀ MEDIA. PERCHÉ BAUDO È IL CENTRO. CULTURALE, POLITICO, SOCIALE" (EDMONDO BERSELLI)

putin trump

DAGOREPORT - IL FATTO CHE PUTIN SIA RITORNATO A MOSCA CON L’ALLORO DEL VINCITORE, LA DICE LUNGA DI COME SIA ANDATO L’INCONTRO CON TRUMP. DEL RESTO, COME PUOI CONFRONTARTI CON GLI ESPERTI DIPLOMATICI RUSSI (SERGEI LAVROV E YURI USHAKOV), AFFIANCATO DA UN SEGRETARIO DI STATO COME MARCO RUBIO, NOTORIAMENTE A DIGIUNO DI GEOPOLITICA, E DA UN VENDITORE DI APPARTAMENTI COME STEVE WITKOFF? – PUTIN, SORNIONE, HA CERCATO DI CONVINCERE TRUMP DI TAGLIARE I LACCI E LACCIUOLI CON I LEADER EUROPEI - MISSIONE NON OSTICA VISTO I “VAFFA” ALLA UE, ULTIMO DEI QUALI LA GUERRA DEI DAZI - TRA VARI MOTIVI CHE MANTENGONO ACCESO UN INTERESSE DI TRUMP CON L’EUROPA, FA CAPOLINO L’EGO-SMANIA DI ESSERE INCORONATO, COME OBAMA, CON IL NOBEL DELLA PACE. ONORIFICENZA CHE VIENE PRESA A OSLO E NON A MAR-A-LAGO - E ADESSO COSA POTRÀ SUCCEDERE LUNEDÌ PROSSIMO NELLA SALA OVALE DOVE È ATTESO L’INCONTRO TRA TRUMP E ZELENSKY? LA PAURA CHE IL LEADER UCRAINO SI PRENDA UN’ALTRA DOSE DI SCHIAFFI E SBERLEFFI DAL TROMBONE A STELLE E STRISCE INCOLPANDOLO DI ESSERE IL RESPONSABILE DEL FALLIMENTO DELLA SUA TRATTATIVA CON MOSCA, HA SPINTO MACRON A CONVOCARE I ''VOLENTEROSI'' -OBIETTIVO: PREPARARE ZELENSKY AL SECONDO ROUND CON IL TEPPISTA DELLA CASA BIANCA...

giorgia meloni elly schlein

DAGOREPORT - COME DESTABILIZZARE IL NEMICO PIÙ INTIMO? SEGUITE IL METODO MELONI: AD OGNI INTRALCIO CHE SI INVENTA QUEL GUASTAFESTE DI SALVINI, LA MINACCIA DELLA DUCETTA È SEMPRE LA STESSA: ANDIAMO AL VOTO ANTICIPATO E VEDIAMO QUANTO VALE NELLE URNE ‘STO CARROCCIO - QUESTO RITORNELLO MELONIANO DI ANTICIPARE DI UN ANNO LE POLITICHE 2027, PERCHÉ NON LO FA SUO ANCHE ELLY SCHLEIN? ANZICHÉ STAR LÌ A PIAGNUCOLARE DI “SALARIO MINIMO”, DI “POLITICA INDUSTRIALE CHE NON C’È” E DI “CETO MEDIO IMPOVERITO”, SE L’ITALIA VA A PUTTANE, METTA L'ARMATA BRANCA-MELONI IN DIFFICOLTÀ: SI TOLGA L’ESKIMO DA GRUPPETTARA E LANCI LEI A GRAN VOCE UNA BELLA CAMPAGNA FATTA DI SLOGAN E FRASI AD EFFETTO PER CHIEDERE LO SFRATTO DEL GOVERNO, LANCEREBBE COSI' UN GUANTO DI SFIDA ALL’ARROGANZA DELLA DUCETTA, METTENDOLA IN DIFFICOLTÀ E NELLO STESSO TEMPO RIUSCIREBBE A TRASMETTERE AL POPOLO DISUNITO DELL’OPPOSIZIONE UN SENTIMENTO FORTE, AFFINCHE' IL SOGNO DI MANDARE A CASA GIORGIA MELONI POSSA DIVENTARE REALTÀ - SE OGGI, LA STORIA DEI NUOVI MOSTRI POLITICI SI FONDA SULL’IMMAGINARIO, COSA ASPETTA ELLY SCHLEIN A CAMBIARE MUSICA?

orazio schillaci marcello gemmato paolo bellavite ed eugenio serravalle

DAGOREPORT – I DUE NO-VAX NOMINATI NEL COMITATO TECNICO SUI VACCINI SPACCANO FRATELLI D'ITALIA: MONTA IL PRESSING PER FAR DIMETTERE EUGENIO SERRAVALLE E PAOLO BELLAVITE DALL’ORGANISMO – IN MOLTI RITENGONO CHE IL RESPONSABILE POLITICO DELL’IMPROVVIDA DECISIONE SIA MARCELLO GEMMATO, FARMACISTA E POTENTE SOTTOSEGRETARIO ALLA SALUTE MELONIANO – IL MINISTRO ORAZIO SCHILLACI È FRUSTRATO DAI CONTINUI BLITZ POLITICI CHE LO PONGONO DI FRONTE A DECISIONI GIÀ PRESE: NON CONTA NULLA E TUTTI PRENDONO DECISIONI SULLA SUA TESTA. ORA SAREBBE INTENZIONATO A REVOCARE L’INTERO GRUPPO DI LAVORO SE I NO-VAX NON SLOGGIANO. ENTRO 48 ORE…