“L’INTELLIGENZA ARTIFICIALE È FUORI CONTROLLO. BIG TECH HA INFRANTO LE PROMESSE CHE AVEVA FATTO” – L’ALLARME DI MAX TEGMARK, FISICO DEL “MASSACHUSSETS INSTITUTE OF TECHNOLOGY” E FONDATORE DELLA ONG “FUTURE OF LIFE INSTITUTE”: “ELON MUSK, SAM ALTMAN, DARIO AMODEI E DEMIS HASSABIS SONO CONVINTI CHE L’AI SIA UNA COSA COSÌ PERICOLOSA AL PUNTO DA NON FIDARSI DI NESSUNO DEGLI ALTRI TRE. OGNI SINGOLO PROTAGONISTA È INTRAPPOLATO IN QUESTO DESTINO: ANCHE SE CAPISCE QUAL È LA MALEDIZIONE, NON RIESCE A SPEZZARLA. PER QUESTO IL RESTO DEL MONDO DEVE INTERVENIRE E AIUTARLI A USCIRE DA QUESTA SITUAZIONE…”
Estratto dell’articolo di Riccardo Luna per www.corriere.it
«Ho trovato il discorso del Papa molto stimolante. Mi sembra che abbia preso le idee di Magnifica Humanitas e le abbia tradotte in indicazioni morali concrete sulle questioni reali che si discutono oggi. Per esempio ha parlato esplicitamente della conferenza di Ginevra del mese prossimo e della necessità di mettere al bando le armi letali autonome.
Ed è stato molto chiaro sul fatto che dobbiamo vietare la personalità giuridica dell’intelligenza artificiale: in altre parole, niente diritti ai bot. È un punto molto interessante, perché la settimana prossima vola in Argentina, il primo Paese al mondo ad aver proposto di legalizzare aziende gestite dall’intelligenza artificiale, senza esseri umani.
presentazione magnifica humanitas la prima encicliica di papa leone xiv
Spero che dica al presidente Javier Milei la stessa cosa che ha detto a noi. Ha anche detto che dovremmo puntare a costruire strumenti, non esseri coscienti o che meritino qualche tipo di diritto. Insomma, oggi si è collegato in pieno ai dibattiti reali che attraversano la società in questo momento».
Sono le due del pomeriggio e Max Tegmark è nel corridoio che porta all’Aula Magna della Casina Pio IV, sede della Pontificia accademia delle scienze sociali. Dentro lo attendono i membri della commissione vaticana sull’intelligenza artificiale presieduta dal cardinale Michael Czerny.
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Sono in corso i lavori di un seminario a porte chiuse — organizzato dalla Pontificia accademia per la vita assieme al Future of Life Institute — con un gruppo di esperti che arrivano da tutto il mondo. È il secondo tempo: il primo si è svolto nel settembre dello scorso anno, quando gli stessi esperti hanno predisposto per il Pontefice un «Appello» per lo sviluppo dell’AI. […] La Santa Sede ha deciso di riconvocare alcuni esperti per sentire la loro opinione su cosa dovrebbe accadere adesso.
Di questo gruppo Max Tegmark è forse la figura più nota: 59 anni, fisico del Massachusetts Institute of Technology e fondatore del Future of Life Institute, è stato il primo a suonare l’allarme, nella primavera del 2023, lanciando un appello per una moratoria di almeno sei mesi.
Sono passati tre anni e mezzo: che bilancio si può fare di quella lettera aperta che venne firmata da moltissimi scienziati famosi e da Elon Musk. È stato un fallimento?
«Ricordo perché prendemmo quella iniziativa. ChatGPT era appena arrivato, tutti dicevano in privato che era pericoloso proseguire su quella strada ma nessuno aveva il coraggio di uscire allo scoperto.
Lo facemmo noi e oggi penso che sia stato un grande successo anche se non abbiamo ottenuto la moratoria: ma tutte le persone che erano preoccupate, quando hanno visto questo elenco di scienziati famosi dirlo, si sono sentite legittimate. Da allora è diventato socialmente accettabile dire: sono preoccupato».
E come consideri la firma di Elon Musk, il quale tre mesi più tardi avrebbe lanciato la sua impresa per vincere la corsa dell’intelligenza artificiale?
«Conosco Elon Musk da più di dieci anni, e potrei dire lo stesso della maggior parte degli altri amministratori delegati delle aziende che sviluppano AI. Vedo tutta la vicenda come una tragedia greca. Anthropic, Google, e anche OpenAI: tutte hanno infranto promesse che avevano fatto.
E Elon, Sam Altman, Dario Amodei e Demis Hassabis sono chiaramente convinti che sia una cosa così pericolosa al punto da non fidarsi di nessuno degli altri tre. Ogni singolo protagonista è intrappolato in questo destino: anche se capisce qual è la maledizione, non riesce a spezzarla. Per questo il resto del mondo deve intervenire e aiutarli a uscire da questa situazione». […]
max tegmark 2
demis hassabis
Max Tegmark
conferenza magnifica humanitas - lo sguardo della chiesa sull intelligenza artificiale - roma 11 giungo 2026 – associazione vincenzo gioberti
PERICOLI DELL INTELLIGENZA ARTIFICIALE
PERICOLI DELL INTELLIGENZA ARTIFICIALE
max tegmark 1
