L’INTELLIGENZA ARTIFICIALE È UN INGANNO – IL CLAMORE INTORNO ALL’IA È UNA NECESSITÀ DI MARKETING. MA DIETRO LA RETORICA SULL’INNOVAZIONE C’È UN LATO OSCURO FATTO DI DATI RACCOLTI SENZA CONSENSO, LAVORO SOTTOPAGATO, SUPERFICIALITÀ - NEL SAGGIO "L'INGANNO DELL'INTELLIGENZA ARTIFICIALE", LA LINGUISTA EMILY BENDER E IL SOCIOLOGO ALEX HANNA SMONTANO SIA LE TESI TROPPO OTTIMISTE SIA QUELLE PESSIMISTE: "L’UNICO RISULTATO, AL MOMENTO, È SPAVENTARE I LAVORATORI, PEGGIORANDONE LA QUALITÀ DELLA VITA E PROMETTERE AGLI IMPRENDITORI CHE RISPARMIERANNO SOLDI" – LE PAROLE VOLUTAMENTE COMPLICATE DAGLI ESITI COMICI: "PAPPAGALLI STOCASTICI" (CON RIFERIMENTO SPECIFICO AI MODELLI LINGUISTICI DI GRANDI DIMENSIONI, LIM) O, ANCORA, SALAMI, ACRONIMO DI…
L'inganno dell'Intelligenza artificiale, esce saggio di Bender e Hanna
(ANSA) – EMILY M. BENDER E ALEX HANNA, 'L'INGANNO DELL'INTELLIGENZA ARTIFICIALE' (FAZI, PP 324, EURO 20).
L'INGANNO DELL'INTELLIGENZA ARTIFICIALE
Le radici del tecno-ottimismo contemporaneo vengono ripercorse nel saggio 'L'inganno dell'intelligenza artificiale. Come resistere a Big Tech e costruire il futuro che vogliamo' di Emily M. Bender e Alex Hanna, due delle voci più influenti nel dibattito sull'Ia, in libreria il 17 marzo per Fazi editore.
La guida smaschera l'hype sulle tecnologie vendute come "intelligenza artificiale", evidenziando limiti e rischi occultati dalle Big Tech. Bender, linguista computazionale, inclusa da 'Time' nel 2023 nella lista delle 100 persone più influenti nel campo dell'intelligenza artificiale e Hanna, sociologa, tra le voci più ascoltate sui risvolti sociali dell'Ia, spiegano con chiarezza che cos'è l'Ia e come funzionano davvero questi sistemi.
Ne sfatano i falsi miti, come neutralità delle macchine, automazione "inevitabile", e mettono in luce le insidie del loro impiego in ambiti chiave - lavoro, sanità, giustizia, istruzione, scienza, arte e giornalismo.
Dietro la retorica dell'innovazione emergono dati raccolti senza consenso, lavoro nascosto e sottopagato, un impatto ambientale crescente e un marketing che propone illusioni come possibilità concrete.
Le tecnologie vendute come "intelligenza artificiale" sono spesso presentate come una magia capace di risolvere ogni problema. Le autrici spiegano in questo libro perché non è così e smontano l'esaltazione mediatica alimentata dalle Big Tech: l'Ia di oggi è fatta di sistemi statistici su larga scala, che producono linguaggio e immagini senza comprenderli - non un'intelligenza pensante ma "pappagalli stocastici", secondo la definizione resa popolare da Bender per descrivere rischi e limiti dei modelli linguistici di grandi dimensioni (Llm) come ChatGPT e Gemini.
Tra le domande chiave che vengono sollevate: l'Ia ci renderà più competenti o più dipendenti? Creerà una società più equa o più diseguale? Chi ne risponde quando un algoritmo sbaglia? Una riflessione lucida e accessibile sulle sfide poste dall'intelligenza artificiale: per riportare il dibattito sulle questioni essenziali - diritti, trasparenza, responsabilità -, scegliere consapevolmente quali tecnologie adottare e costruire un futuro in cui l'innovazione torni al servizio delle persone.
L’IA È UN INGANNO
Estratto da “L’inganno dell’intelligenza artificiale”, di Emily Bender e Alex Hanna (ed. Fazi)
Che cos’è l’Ia?
Per dirlo senza mezzi termini, "IA" è un'espressione di marketing. Non si riferisce a un insieme coerente di tecnologie. Piuttosto, l'espressione "intelligenza artificiale" viene usata nel momento in cui coloro che costruiscono o vendono un particolare tipo di tecnologie traggono vantaggio dal far credere agli altri che la loro tecnologia sia simile agli esseri umani, cioè sia capace di fare cose che, in realtà, hanno intrinsecamente bisogno del giudizio, della percezione e della creatività umane.
Ma anche in questo caso ci deve essere una pretesa di somiglianza: le calcolatrici sono di gran lunga migliori delle persone nell'aritmetica, ma non sono vendute come "IA" A volte sembra che anche chi vende questi strumenti creda al suo stesso marketing (ne incontreremo diversi esempi nei prossimi capitoli), ma ciò che è più importante è che possono venderli sotto questa denominazione.
In questo libro usiamo i termini "intelligenza artificiale" e "IA" per riferirci alle tecnologie vendute come tali. Cerchiamo di essere il più precise possibile quando parliamo di una tecnologia specifica"' ma, quando ci riferiamo genericamen-te a queste tecnologie, useremo a volte la comoda abbreviazione "IA". Vogliamo però mantenere una distanza critica da questo termine: immaginate quindi una fila di virgolette prima e dopo ogni volta che scriviamo "IA". Oppure, se preferite, sostituite il termine con un'espressione che suoni ridicola.
Tra le nostre preferite ci sono "matematicismi", "un cumulo razzista di algebra lineare", "pappagalli stocastici" (con riferimento specifico ai modelli linguistici di grandi dimensioni, LIM) o, ancora, SALAMI, acronimo di Systematic Approaches to Learning Algorithms and Machine Inferences ('Approcci sistematici all'apprendimento degli algoritmi e alle inferenze automatiche').
L'insieme delle tecnologie vendute come IA è vario, sia negli usi che nelle modalità di produzione e, del resto, non ci sorprende che alcune tecnologie vendute in questo modo non siano altro che un foglio di calcolo confezionato in modo elegante. Il termine serve però a nascondere la varietà, quindi la conversazione diventa più chiara se parliamo di "automazione" invece che di "IA" e guardiamo con attenzione a che cosa viene automatizzato.
[…] La funzione commerciale dell'hype sulla tecnologia è aumentare le vendite di prodotti. Detto altrimenti, l'amministratore delegato di OpenaI Sam Altman è un pubblicitario, come tutti i grandi magnati tecnologici del nostro tempo. Se l'hype tecnologico in generale ha una funzione commerciale, però, quello sull'Ia in particolare ha anche una funzione culturale: unisce un obiettivo commerciale all'immaginario popolare sulle macchine senzienti.
Mentre ci vende i suoi scenari ottimistici, l'hype sull'Ia ci promette una vita agiata: lavori ordinari come l'inserimento di dati, la redazione di testi pubblicitari e la creazione di grafiche semplici diventeranno un ricordo del passato. Gli "assistenti" IA prenderanno appunti al nostro posto durante le riunioni online o, ancora meglio, ci sostituiranno del tutto mentre noi ci dedicheremo a questioni più urgenti. Certo, con le tecnologie che abbiamo oggi siamo proprio a un passo dal " progresso" rappresentato dal computer di bordo a cui il capitano Jean-Luc Picard può chiedere, con disinvoltura, di preparargli «Un tè, Earl Grey, caldo», o dal "sistema operativo" premuroso ed efficiente impersonato dalla voce di Scarlett Johansson nel film, Her.
[…] Ma il fatto che l'hype non sia basato sulla realtà dei fatti non significa che questo stesso hype non abbia un impatto sul mondo da un punto di vista culturale, economico e ambientale. E anche se l'hype sull'ta ha raggiunto il suo culmine negli ultimi anni, è con noi da decenni, fin dall'origine di questa discipli-na. Ci possiamo aspettare che accompagnerà la ricerca sull'IA per tutto 1l tempo in cui questa sarà portata avanti. Una breve panoramica sull'hype del periodo iniziale dell'IA ci aiuterà a fare chiarezza su quello attuale e il confronto tra il vecchio e il nuovo hype ci aiuterà anche a riconoscerlo in futuro.
GIORNALISTI SOSTITUITI DALL INTELLIGENZA ARTIFICIALE 3
[…] L'hype sull'A infesta quasi ogni angolo della nostra cultura: le affermazioni secondo cui abbiamo a che fare con esseri senzienti e che, un giorno, questi esseri diventeranno superintelligenti sono impossibili da evitare, dall'intrattenimento di massa fino alle aule parlamentari.
Un giornalismo in affanno ripete acriticamente le dichiarazioni delle aziende sull'ia che ci libererà dal lavoro, che istruirà i nostri figli e fornirà cure mediche a tutti coloro che ne hanno bisogno. Gli entusiasti affermano che l'Ia creerà opere artistiche ma che potrebbe anche ucciderci tutti. Ma se decidesse di risparmiarci, alla fine della giornata ci potremo rilassare in un paradiso completamente automatizzato, dopo che l'IA avrà trovato soluzioni per la crisi climatica e la povertà.
Queste, ovviamente, sono tutte cazzate. L'Ia non è senziente, non renderà più facile il nostro lavoro e i dottori la non cureranno ciò che ci fa stare male. Queste affermazioni, però, possono peggiorare il nostro lavoro e la qualità della nostra vita, a meno che non ci opponiamo alle crescenti ingerenze di questi prodotti in ogni ambito della vita pubblica e privata.
MEDICI E INTELLIGENZA ARTIFICIALE
L'hype non nasce per caso, ma perché svolge una funzione: spaventare i lavoratori e promettere ai responsabili politici e ai dirigenti aziendali che risparmieranno parecchi soldi. Una parte del nostro lavoro nello smontare l'hype consiste nel rintracciarne l'origine e nel capire di quali interessi è al servizio.
[…] Speriamo che alla fine di questo libro vi avremo mostrato come resistere alla tentazione di lasciarsi stupire, come individuare l'hype sull'ia e come riprendere un po' di controllo sul nostro futuro tecnologico. Si parte!
