“GLI ALGORITMI INCONSCI SARANNO PIÙ POTENTI DELL’UOMO” - LO STORICO YUVAL HARARI: “IN QUESTO SECOLO LE INTELLIGENZE ARTIFICIALI CI RENDERANNO IMMORTALI, MA POI SARANNO LORO A GOVERNARE LA TERRA. LA RIVOLUZIONE HI-TECH STA CREANDO LA CLASSE DEI SUPERFLUI: PERSONE DISOCCUPATE E INOCCUPABILI”
Giuliano Aluffi per “Il Venerdì - la Repubblica”
Mai come oggi l’umanità è riuscita a contenere violenza e epidemie, e i progressi della medicina sembrano destinati ad allungare la vita a piacimento. Eppure proprio sulla strada che, grazie a ingegneria genetica e intelligenza artificiale, ci porterà a traguardi mai sognati prima, potremmo perdere noi stessi.
È l’ammonimento dello storico israeliano Yuval Harari, docente presso l’Università Ebraica di Gerusalemme, membro dell’Accademia israeliana delle Scienze e autore del saggio Homo Deus: a Brief History of Tomorrow (Harvill Secker, pp. 448, l’edizione italiana uscirà per Bompiani nel 2017). Harari è diventato una star della saggistica internazionale con il bestseller Sapiens (tradotto in 30 lingue, uscito in Italia per Bompiani con il titolo Da animali a dei, breve storia dell’umanità), che ricostruiva il modo in cui l’uomo ha conquistato il dominio sul Pianeta.
Un corso tratto dal libro, distribuito online dall’università telematica Coursera, la più famosa del mondo, è stato seguito da oltre 100 mila persone. La sua previsione del futuro parte da considerazioni molto ottimistiche.
«Per la prima volta nella storia sono più le vittime degli eccessi nel cibo che quelle della denutrizione. Si muore di più per la vecchiaia che per le malattie infettive. Nelle società antiche una fine violenta toccava fino al 15 per cento delle persone. Oggi siamo sotto l’1. L’umanità ha un potere senza precedenti».
Per fare cosa?
«In questo secolo punteremo all’immortalità. O meglio, tenderemo a vedere la morte come un banale problema tecnico. Del resto già nel 2013 Google ha lanciato la società Calico che ha la missione di combattere l’invecchiamento e – come dicono i fondatori – “risolvere la morte”».
E questo è un bene per tutti. O no?
«Di fatto quello che si prospetta è un tipo di progresso che può minare la democrazia. Mi spiego: la medicina finora ha avuto come obiettivo la guarigione dei malati. È un traguardo che, in qualche modo, risponde a criteri di uguaglianza: una volta che sei sano, sei sano allo stesso modo sia che tu sia ricco sia che tu sia povero.
Se il nuovo obiettivo della medicina sarà invece – com’è probabile – il potenziamento dell’essere umano, per esempio attraverso interventi genetici, allora chi potrà permetterselo si potenzierà più degli altri. Il divario tra privilegiati e no potrebbe allargarsi a dismisura arrivando persino a codificarsi nel Dna. Oggi c’è ancora mobilità sociale ed economica. Ma sarà più difficile avere “mobilità genetica”: una volta che i potenti saranno più intelligenti, più forti, più sani avremo una classe di “semidei” che metterà a dura prova il concetto di democrazia».
Ma una trasformazione in senso elitario della medicina non incontrerebbe opposizione nella società?
«Non credo, perché la promessa di riuscire a sconfiggere tutti i mali grazie zie a strumenti potentissimi come l’intelligenza artificiale e la speranza di poter prevenire difetti e vulnerabilità grazie alla manipolazione genetica sono troppo allettanti per far sorgere dubbi.
Pensi solo ai vantaggi che un’intelligenza artificiale come Watson di Ibm ha sui medici umani: potrà avere a disposizione all’istante tutta la conoscenza medica acquisita nella storia e aggiornarsi in tempo reale con ogni nuovo studio pubblicato, in teoria potrà anche consultare dati e statistiche da ogni ospedale del mondo.
Potrò dargli come input tutto il mio genoma e quello dei miei familiari e indossare sensori che gli manderanno dati 24 ore su 24 sulle mie funzioni vitali. Questo “medico artificiale” potrà combinare tutti queste informazioni insieme per diagnosi di una precisione impressionante.
Certo, non siamo ancora a questo punto, perché rimangono molti problemi da risolvere. Ma poi, una volta sviluppato un “medico artificiale”, in realtà ne avremo infiniti, perché potremo creare all’istante tante copie del programma, mentre per formare un medico umano servono anni per ogni individuo. Il prezzo di tutto questo è la privacy? Ma tra la salute e la privacy la gente sceglierà sempre la prima».
Siamo nelle mani degli algoritmi.
«Proprio così. Se grazie alle enormi quantità di dati che raccolgono già oggi – uno studio mostra come Facebook ci conosca più dei nostri amici – e che raccoglieranno sempre di più, i computer saranno in grado di darci consigli utili sulle scelte importanti della nostra vita, chi sarà così sciocco da rinunciare a questi vantaggi?».
Ma a che prezzo?
«Un trasferimento di autorità dagli umani agli algoritmi. Che è un passaggio storico. Nel corso della storia l’intelligenza è sempre stata accompagnata dalla consapevolezza. I soli esseri altamente intelligenti, e quindi capaci di curare malattie, giocare a scacchi e guidare veicoli, ossia gli umani, erano esseri consapevoli. Ora però l’intelligenza si sta affrancando dalla consapevolezza. Abbiamo algoritmi – inconsapevoli di sé stessi – che giocano a scacchi, guidano veicoli, diagnosticano malattie meglio di noi.
Perché tutti questi compiti si basano sul riconoscimento di schemi, una capacità in cui gli algoritmi eccellono. La fantascienza dà per scontato che per poter superare l’intelligenza umana i computer dovranno sviluppare anche la consapevolezza. La scienza dice un’altra cosa: ci potrebbero essere diverse vie alternative che conducono alla superintelligenza, e solo alcune di queste passano attraverso la consapevolezza.
Per fare le cose – pensi alle auto senza pilota o i robot – l’intelligenza è obbligatoria, la consapevolezza solo facoltativa. E potrebbe diventare addirittura un lusso o un impedimento. Dopo migliaia di anni in cui l’uomo ha concentrato il potere nelle sue mani, tra pochi decenni algoritmi inconsci potrebbero essere molto più potenti di noi. E la maggior parte dell’umanità potrebbe diventare economicamente inutile e politicamente impotente».
Con quali risvolti?
«La rivoluzione industriale ha creato la classe lavoratrice urbana, la rivoluzione dell’intelligenza artificiale sta creando la classe dei superflui: persone disoccupate e inoccupabili. È un po’ come è successo per gli eserciti: quelli del Ventesimo secolo si fondavano sul reclutamento di milioni di soldati attraverso la leva obbligatoria, mentre quelli del Ventunesimo contano su numeri ridotti di soldati d’élite potenziati da droni, robot e software. Oggi la maggior parte delle persone è militarmente inutile.
Presto la stessa cosa potrebbe accadere nell’economia civile. Ma se le masse non saranno più utili a nulla – cosa mai successa prima – come potrà reggere l’idea della democrazia? Nel Ventesimo secolo le élite, in democrazia come nei regimi autoritari, hanno investito molto per dare alle masse sanità, istruzione e welfare, perché le masse erano fondamentali: servivano soldati e lavoratori in salute.
Ma se oggi gli umani non servono più, allora le élite perderanno ogni incentivo a investire nell’istruzione e nel benessere delle masse. Poi anche le élite saranno sorpassate dall’intelligenza artificiale, che potrebbe rimpiazzarci come specie dominante sul Pianeta. Non sarà l’Apocalisse, ma l’apertura di un capitolo completamente nuovo negli annali della vita. Che non riusciremmo a immaginare nemmeno nei sogni più strani, visto che anche i sogni sono prodotto di chimica organica, mentre la realtà sarà guidata da menti inorganiche».
E che fine farà l’Homo Deus?
«Pensiamo a come è cambiato il nostro rapporto col mondo. Il cacciatore-raccoglitore dell’antichità era animista: adorava il vento, il sole, l’orso, il bosco. Con l’invenzione dell’agricoltura l’uomo ha iniziato a cambiare la natura e si è inventato un Dio a sua immagine che, ponendolo al vertice della creazione, giustificasse il suo dominio sugli animali. Con il pensiero umanista, poi, l’uomo venera sé stesso. Ora però, sulla nuova strada verso la divinità, ci imbatteremo nella nostra irrilevanza. I computer ci renderanno immortali proprio quando saranno così potenti da renderci anche inutili e obsoleti».
