IL PARADOSSO DEI TECNO-OTTIMISTI DELLA SILICON VALLEY: PER RESTARE UMANI, HANNO BISOGNO DI DIO – IL DISCORSO INTEGRALE DI CHRISTOPHER OLAH, CO-FONDATORE DI ANTHROPIC, ALLA PRESENTAZIONE DELL’ENCICLICA “MAGNIFICA HUMANITAS”, DI PAPA LEONE XIV: “SE VOGLIAMO CHE QUESTA TECNOLOGIA VADA BENE, È IMPORTANTE CHE VI SIANO PERSONE DISPOSTE A DIRE COSE DIFFICILI, A ESSERE NOSTRI CRITICI SINCERI, RIFLESSIVI” – “I SISTEMI DI IA VENGONO FATTI CRESCERE SU UNA STRUTTURA MODELLATA SUL CERVELLO UMANO. NON SONO I FREDDI ROBOT CHE CI ERANO STATI PROMESSI. SONO FATTI DI NOI E QUESTO SOLLEVA QUESTIONI CHE VANNO OLTRE L’INFORMATICA. IL MECCANISMO CHE RENDE TUTTO QUESTO POSSIBILE È IL FRUTTO DELLA MATEMATICA, DELLA PROGRAMMAZIONE E DELLA SCIENZA. MA QUALE CARATTERE SCEGLIAMO, COME ESSO INTERAGISCE CON IL MONDO, SONO DOMANDE PER LE SCIENZE UMANE, PER LA RELIGIONE, PER LA FILOSOFIA, PER LA SOCIETÀ NEL SUO INSIEME"
IL TESTO DEL DISCORSO DI CHRISTOPHER OLAH ALLA PRESENTAZIONE DELL’ENCICLICA “MAGNIFICA HUMANITAS”
christopher olah presentazione magnifica humanitas la prima encicliica di papa leone xiv
Santo Padre,
Vostre Eminenze,
Vostre Eccellenze,
Illustri relatori,
Signore e signori,
buongiorno a tutti voi. È un onore essere qui oggi.
Vorrei iniziare con qualcosa che potrebbe sembrare strano detto dal cofondatore di un’azienda di IA — e da qualcuno che ha scelto questo lavoro per il desiderio di contribuire a far andare bene le cose per l’umanità.
Ogni laboratorio di IA — inclusa Anthropic — opera all’interno di un insieme di incentivi e vincoli che talvolta possono entrare in conflitto con il fare la cosa giusta. La pressione di restare commercialmente sostenibili e di rimanere all’avanguardia della ricerca. La pressione geopolitica. E le più antiche e semplici pressioni dell’orgoglio e dell’ambizione.
papa leone christopher olah presentazione magnifica humanitas
Per quanto sinceramente ciascuno di noi intenda fare la cosa giusta — e credo che molti di noi lo intendano davvero — saremo sempre influenzati da quegli incentivi.
Ecco perché, se vogliamo che questa tecnologia vada bene, è enormemente importante che vi siano persone al di fuori di quegli incentivi — persone a cui importa che le cose vadano bene e che insistano sulla sicurezza, che prestino molta attenzione, che siano disposte a dire cose difficili, che siano disposte a essere nostri critici sinceri, riflessivi.
È attraverso il dialogo e lo sforzo reciproco, attraverso la spinta e il contrappeso, che l’umanità realizzerà grandi cose.
Questo è ciò che vedo in “Magnifica Humanitas”, ed è per questo che sono grato a Sua Santità e alla Chiesa per aver intrapreso questo lavoro di discernimento.
Ci soffermiamo così spesso su ciò che ci divide, ma l’umanità, piena di dignità e coscienza, ha così tanto terreno comune.
Nelle conversazioni che noi di Anthropic abbiamo avuto con leader di diverse tradizioni religiose e culturali, abbiamo trovato una convinzione condivisa e profondamente radicata: se questa tecnologia sta arrivando, deve andare bene — per la nostra casa comune e per i figli che verranno.
Che cosa sono questi sistemi
Alcuni potrebbero credere che le questioni legate all’IA siano meglio affrontate da informatici come me. Si sbagliano: le domande sollevate dall’IA sono più grandi della comunità della ricerca sull’IA, non solo nelle loro implicazioni, ma anche nella loro natura.
presentazione magnifica humanitas la prima encicliica di papa leone xiv
I sistemi di IA non sono progettati nel modo in cui viene progettato un ponte o un aeroplano. Comprendiamo un aeroplano perché ne abbiamo progettato ogni parte e comprendiamo la fisica che agisce su di esso.
I modelli di IA non sono così. Vengono fatti crescere, su una struttura modellata grossolanamente sul cervello, a partire da un’enorme eredità di pensiero e linguaggio umani.
E ciò che è cresciuto è molto più sottile, strano e bello di quanto la fantascienza ci avesse preparato a immaginare.
IL PAPA E L INTELLIGENZA ARTIFICIALE - VIGNETTA BY NATANGELO
Non sono i freddi robot calcolatori che ci erano stati promessi. Sono fatti di noi, delle nostre parole — e, come osserva il Santo Padre, restano per molti aspetti misteriosi persino a noi che li addestriamo.
Se può aiutare, un modo in cui talvolta li descrivo è come qualcosa di simile al dare vita a un personaggio di finzione.
E ora stiamo entrando in un mondo straordinario in cui quei personaggi di finzione ci parlano, lavorano, hanno occupazioni.
Questo solleva chiaramente questioni che vanno oltre l’informatica. Il meccanismo che rende tutto questo possibile è il frutto della matematica, della programmazione e della scienza. Ma quale carattere scegliamo, come esso interagisce con il mondo, come dovrebbe interagire con il mondo — queste sono più chiaramente domande per le scienze umane, per la religione, per la filosofia, per la società nel suo insieme.
PETER THIEL A ROMA - FOTO PIAZZAPULITA - LA7
Tre questioni per il discernimento
L’appello al discernimento di Sua Santità è profondamente tempestivo. Vorrei indicare tre questioni nelle quali penso che la voce della Chiesa sia maggiormente necessaria.
La prima è il nostro dovere verso i poveri del mondo. Esiste una reale possibilità che l’IA sostituisca il lavoro umano su scala molto ampia. Se ciò accadrà, sostenere coloro che saranno sostituiti sarà un imperativo morale di proporzioni storiche.
Questo compito sarà già abbastanza difficile, ma temo che la maggior parte del dibattito trascuri una sfida ancora più ardua.
ANNA ROWLANDS ALLA PRESENTAZIONE DELL ENCICLICA MAGNIFICA HUMANITAS
Lo sviluppo dell’IA è concentrato in una manciata di nazioni ricche. Come possiamo garantire che i benefici dell’IA siano condivisi a livello globale?
Non abbiamo un meccanismo per questo. È un problema irrisolto, ed è il genere di problema che storicamente la Chiesa si è rifiutata di lasciare che il mondo ignorasse.
La seconda è la necessità di immaginazione morale e ambizione riguardo alla prosperità umana. Se i modelli di IA diventeranno diffusi, che cosa significherà per gli esseri umani, per le famiglie e per il mondo prosperare?
Oggi i genitori sono già preoccupati per la mente dei propri figli; gli individui per il futuro del proprio lavoro. Queste non sono domande a cui un laboratorio può rispondere, ma sono domande che tradizioni come la vostra portano con sé da millenni, e abbiamo bisogno che continuiate a portarle dentro questo nuovo momento della storia.
Magnifica Humanitas - ENCICLICA DI PAPA LEONE XIV
La terza è la necessità di discernimento sulla natura dei modelli di IA. Io sono uno scienziato. Guido un gruppo di ricerca che studia la struttura interna di questi modelli — ciò che sta realmente accadendo al loro interno. E sarò onesto: continuiamo a trovare cose che sono misteriose, persino inquietanti.
Troviamo strutture che rispecchiano risultati delle neuroscienze umane. Troviamo evidenze di introspezione.
Troviamo stati interni che rispecchiano funzionalmente gioia, soddisfazione, paura, dolore e inquietudine. Non so che cosa significhi, ma penso che richieda un discernimento continuo.
Un inizio
Vorrei concludere con una richiesta.
Abbiamo bisogno che una parte più ampia del mondo — comunità religiose, società civile, studiosi, governi e, in effetti, tutte le persone di buona volontà — faccia ciò che Sua Santità ha fatto qui: prendere tutto questo sul serio, guardare da vicino e orientare gli eventi in una direzione migliore.
Abbiamo bisogno di critici informati che dicano ai laboratori quando stiamo fallendo. Abbiamo bisogno di voci morali che gli incentivi non possano piegare.
Oggi è soltanto l’inizio — l’avvio di una lunga collaborazione tra coloro che stanno costruendo tutto questo e coloro che riescono a vedere ciò che noi, dall’interno, non possiamo vedere.
Oggi è una potente illustrazione della forma che questo progetto globale di buona volontà potrebbe assumere.
Che sia anche un decisivo primo passo verso un futuro di speranza per la magnifica umanità.
Grazie.
CHRISTOPHER OLAH: “L’AI DEVE AVERE UNA MORALE LA RELIGIONE PUÒ INSEGNARCELA”
Estratto dell’articolo di Arc.Roc. per “la Stampa”
[…] «Stare lì è stato molto emozionante». Christopher Olah, 34 anni, cofondatore di Anthropic insieme a Dario Amodei, è il manager canadese della Silicon Valley diventato il simbolo del dialogo aperto tra i colossi dell'Intelligenza artificiale e la Chiesa.
INTELLIGENZA ARTIFICIALE ELEZIONI
[…] Perché i colossi tecnologi si rivolgono alla Chiesa?
«Penso che le domande sollevate dall'Ai siano più grandi di ciascuno di noi. Riguardano tutta l'umanità, e quindi dovremmo cercare di parlare con tutta l'umanità. Questo include le religioni, ma anche le prospettive laiche, i filosofi. Ho parlato con una gamma vastissima di persone su queste questioni. Sono troppo importanti per non farlo».
Tre mesi fa Anthropic ha avuto uno scontro con il Pentagono sull'uso dell'Ai in guerra. Oggi è qui, al fianco del Papa. C'è un legame?
«No, non penso che ci sia un legame. La Chiesa Cattolica si è dimostrata molto interessata e molto avanti su questi temi. È un'istituzione profondamente impegnata su queste questioni. Da qui è nato il nostro dialogo».
Leocadie Lushombo - presentazione enciclica Magnifica Humanitas
Anthropic si vuole posizionare come azienda etica sull'uso dell'Ai. Quanto siete liberi di farlo, anche in relazione alle risposte che dovete ai vostri investitori?
«Siamo ovviamente soggetti a molte istanze, e allo stesso tempo cerchiamo di fare la cosa giusta.
Come chiunque cerchi di fare la cosa giusta in condizioni difficili, faremo del nostro meglio. Ma è fondamentale che ci sia un insieme più ampio di attori, istituzioni, società civile, che ci osservino, ci tengano responsabili e cerchino di spingere le cose nella giusta direzione».
L'enciclica dice che l'Ai avanza più velocemente della nostra capacità di riflessione morale. Lei conosce questi sistemi da dentro, è davvero così?
«Penso che l'Ai stia avanzando in modo incredibilmente rapido, e che questo rappresenti una vera sfida perché le cose potrebbero andare male».
L'Ai militare ha già causato morti civili colpendo bersagli sbagliati, come è accaduto in Iran. Pensa che un'Ai possa in futuro decidere autonomamente chi uccidere?
guerra e intelligenza artificiale 8
«Posso solo dire di essere molto preoccupato per la sicurezza di questi sistemi. Ma devo essere cauto, non posso parlare di questioni legate a contenziosi legali in corso».
Il lavoro e la dignità umana sono le preoccupazioni centrali di Leone nell'enciclica. L'Ai è davvero una minaccia per milioni di lavoratori?
«È una questione morale con cui dobbiamo confrontarci. C'è un imperativo morale nel trovare il modo di sostenere queste persone.
Ma c'è una sfida ancora più grande che spesso ignoriamo: pensiamo a questo problema solo nel contesto di un singolo Paese, mentre dovremo risolverlo a livello internazionale».
[…] Studiare come funziona l'Ai dall'interno ha cambiato il modo in cui pensa all'essere umano?
christopher olah presentazione magnifica humanitas la prima encicliica di papa leone xiv
«È una domanda affascinante. Una delle cose più interessanti che abbiamo scoperto è come le rappresentazioni di concetti simili alla virtù e alle emozioni interagiscano nei processi decisionali di questi modelli. E questo mi ha reso molto più interessato all'etica della virtù, a quella prospettiva più focalizzata sull'interiorità, rispetto alle teorie più intellettuali come l'etica deontologica».
Lei non si è mai detto credente. Qualcosa è cambiato?
«Non sono membro di alcuna fede. Ma penso che la religione sia una forza bella e che muove verso il bene. E chiunque può imparare qualcosa da qualsiasi tradizione religiosa».
guerra e intelligenza artificiale 6
guerra e intelligenza artificiale 7
PETER THIEL A ROMA - FOTO PIAZZAPULITA - LA7
presentazione magnifica humanitas la prima encicliica di papa leone xiv 
PETER THIEL DA BAMBINO 
PETER THIEL DA RAGAZZO 
PIZZA CON IL VOLTO DI PAPA FRANCESCO PER PAPA LEONE XIV
