“LA PRESUNZIONE DI SOSTITUIRE DIO CON UN'OPERA DELLE PROPRIE MANI È IDOLATRIA" – IL VATICANO METTE ALL’INDICE L’INTELLIGENZA ARTIFICIALE: “PUÒ RISULTARE PIÙ SEDUCENTE DEGLI IDOLI TRADIZIONALI, MA È UN PALLIDO RIFLESSO DELL'UMANITÀ. L’UOMO PUÒ DIVENTARE SCHIAVO DELLA PROPRIA STESSA OPERA" – “PUÒ FAVORIRE LE CONNESSIONI, MA PORTARE A UN DANNOSO ISOLAMENTO E FAR PRECIPITARE L’UMANITÀ IN SPIRALI DI AUTODISTRUZIONE” – I RISCHI DEI DEEPFAKE E LE PREOCCUPAZIONI “ETICHE” SULLA CONCENTRAZIONE DEL POTERE “NELLE MANI DI POCHE POTENTI AZIENDE”: LA NOTA DEI DICASTERI PER LA DOTTRINA DELLA FEDE E PER LA CULTURA

papa francesco confessa un robot immagine creata con l intelligenza artificiale

S.Sede, IA opportunità ma uomo può diventare schiavo macchine

(ANSA) - Non va considerata come una persona l'Intelligenza Artificiale, non va divinizzata, non deve sostituire le relazioni umane, ma deve essere utilizzata "solo come strumento complementare all'intelligenza umana".

I moniti del Papa sull'Intelligenza Artificiale di questi ultimi anni fanno da traccia ad Antiqua et Nova (in riferimento alla "sapienza", antica e nuova), la nota sul rapporto tra intelligenza artificiale e intelligenza umana frutto della mutua riflessione tra Dicastero per la Dottrina della Fede e Dicastero per la Cultura e l'Educazione.

Documento rivolto a genitori, insegnanti, preti, vescovi e quanti sono chiamati a educare e trasmettere la fede, ma anche a coloro che condividono l'esigenza di uno sviluppo scientifico e tecnologico "al servizio della persona e del bene comune". Pubblicata oggi, la Nota è stata approvata dal Papa.

papa francesco con un martello distrugge un robot immagine creata con l intelligenza artificiale di grok

In 117 paragrafi, mette in luce sfide e opportunità dello sviluppo dell'Intelligenza Artificiale (IA) nei campi di educazione, economia, lavoro, sanità, relazioni internazionali e interpersonali, contesti di guerra. In quest'ultimo ambito, ad esempio, le potenzialità dell'IA - avverte la Nota - potrebbero accrescere le risorse belliche "ben oltre la portata del controllo umano", accelerando "una corsa destabilizzante agli armamenti con conseguenze devastanti per i diritti umani".

Il documento elenca i pericoli dell'IA ma anche i progressi, che anzi incoraggia. La preoccupazione, tuttavia, è grande ed è quella data da tutte le innovazioni i cui effetti sono ancora imprevedibili, anche per ciò che al momento appare innocuo come la generazione di testi e immagini.

papa francesco prega con un robot immagine creata con l intelligenza artificiale

Dunque sono considerazioni etiche e antropologiche quelle al centro della riflessione dei due Dicasteri che dedicano diversi paragrafi alla distinzione "decisiva" tra Intelligenza artificiale e umana, cioè quella che "si esercita nelle relazioni", modellata da Dio e "plasmata da una miriade di esperienze vissute nella corporeità".

L'IA "manca della capacità di evolversi in questo senso"]. E la sua è "una visione funzionalista", con le persone valutate solo in base a lavori e risultati, laddove la dignità umana è imprescindibile e rimane intatta sempre. "Fuorviante", allora, usare la parola stessa "intelligenza" in riferimento all'IA: non è "una forma artificiale dell'intelligenza", ma "uno dei suoi prodotti".

papa francesco al gay pride immagine creata con l intelligenza artificiale 1

"La presunzione di sostituire Dio con un'opera delle proprie mani è idolatria", afferma la Nota, che cita le Sacre Scritture per mettere in guardia dal fatto che l'IA può risultare "più seducente rispetto agli idoli tradizionali". Ricorda pertanto che essa non è altro che "un pallido riflesso" dell'umanità: "Non è l'IA a essere divinizzata e adorata, ma l'essere umano, per diventare, in questo modo, schiavo della propria stessa opera". Da qui, una raccomandazione conclusiva: "L'IA dovrebbe essere utilizzata solo come uno strumento complementare all'intelligenza umana e non sostituire la sua ricchezza".

E come ogni prodotto dell'ingegno umano, anche l'IA può essere diretta verso "fini positivi o negativi". Antiqua et Nova non nega che essa possa introdurre "importanti innovazioni" in vari campi, ma si rischia anche di aggravare situazioni di marginalizzazione, discriminazione, povertà, "divario digitale", disuguaglianze sociali.

papa francesco confessa un robot immagine creata con l intelligenza artificiale

A sollevare "preoccupazioni etiche" è in particolare il fatto che "la maggior parte del potere sulle principali applicazioni dell'IA sia concentrato nelle mani di poche potenti aziende", così che questa tecnologia finisca ad essere manipolata per "guadagni personali o aziendali" o ad "orientare l'opinione pubblica verso l'interesse di un settore"

Immancabile il riferimento alla guerra. Le "capacità analitiche" dell'IA potrebbero essere impiegate per aiutare le nazioni a ricercare pace e sicurezza, ma "grave motivo di preoccupazione etica" sono i sistemi di armi autonome e letali, in grado di "identificare e colpire obiettivi senza intervento umano diretto". Le macchine in grado di uccidere con precisione in modo autonomo e altre capaci di distruzione di massa sono una minaccia vera e propria per "la sopravvivenza dell'umanità o di intere regioni".

intelligenza artificiale e guerra

Queste tecnologie "danno alla guerra un potere distruttivo incontrollabile, che colpisce molti civili innocenti, senza risparmiare nemmeno i bambini", denuncia Antiqua et Nova. Per evitare che l'umanità precipiti in "spirali di autodistruzione", è necessario allora "assumere una posizione netta contro tutte le applicazioni della tecnologia che minacciano intrinsecamente la vita e la dignità della persona umana". Sulle relazioni umane il documento osserva che l'IA può, sì, "favorire le connessioni" ma, al contempo, portare a "un dannoso isolamento".

intelligenza artificiale e guerra

"Erroneo", poi, rappresentare l'IA come una persona ed è "una grave violazione etica" attuare ciò per scopi fraudolenti. Così come "utilizzare l'IA per ingannare in altri contesti - quali l'educazione o le relazioni umane, compresa la sfera della sessualità - è profondamente immorale e richiede un'attenta vigilanza". La stessa vigilanza viene domandata in ambito economico-finanziario.

In particolare nel campo del lavoro si rileva che se, da una parte, l'IA ha "potenzialità" per accrescere competenze e produttività o per creare nuovi posti di lavoro, dall'altra, può "dequalificare i lavoratori, sottoporli a una sorveglianza automatizzata e relegarli a funzioni rigide e ripetitive", al punto da "soffocare" ogni capacità innovativa. "Non si deve cercare di sostituire sempre più il lavoro umano con il progresso tecnologico: così facendo l'umanità danneggerebbe sé stessa", si sottolinea. Ampio spazio viene dedicato al tema della sanità. Pur detenendo un enorme potenziale in svariate applicazioni in campo medico, l'IA qualora andasse a sostituire la relazione medico-paziente rischierebbe di "peggiorare quella solitudine che frequentemente accompagna la malattia".

foto di papa francesco create dall intelligenza artificiale 4

Pure l'ottimizzazione delle risorse non deve "penalizzare i più fragili" o creare "forme di pregiudizio e discriminazione" che portino a rafforzare una "medicina per i ricchi". Rischi vengono evidenziati anche nel campo dell'educazione. Se usata in maniera prudente, l'IA può migliorare l'accesso all'istruzione e offrire "riscontri immediati" agli studenti. Il problema è che molti programmi "si limitano a fornire risposte invece di spingere gli studenti a reperirle da sé, oppure a scrivere essi stessi dei testi"; questo porta a perdere l'allenamento nell'accumulare informazioni o nello sviluppare un pensiero critico.

 Senza dimenticare quante "informazioni distorte o artefatte" o "contenuti inesatti" alcuni programmi possono generare, andando così a legittimare le fake news. Proprio in tema di fake news il documento rammenta il serio rischio che l'IA "generi contenuti manipolati e informazioni false" così da alimentare una "allucinazione" da IA, con contenuti non veritieri che sembrano reali. Ancora più preoccupante è quando tali contenuti fittizi sono usati intenzionalmente a fini di manipolazione.

intelligenza artificiale e guerra 3

Ad esempio, quando si divulgano intenzionalmente immagini, video e audio deepfake (rappresentazioni modificate o generate da algoritmo) per "ingannare o danneggiare". Su privacy e controllo, la Nota evidenzia che alcuni tipi di dati possono arrivare a toccare l'intimità della persona, "forse persino la sua coscienza".

Sul Creato vengono giudicate "promettenti" le applicazioni dell'IA per migliorare il rapporto con la casa comune. Basti pensare ai modelli per la previsione di eventi climatici estremi, la gestione dei soccorsi o il supporto all'agricoltura sostenibile. Al contempo, gli attuali modelli di IA e il sistema hardware che li supporta richiedono "ingenti quantità di energia e di acqua e contribuiscono in modo significativo alle emissioni di CO2, oltre a consumare risorse in modo intensivo". È quindi un tributo "pesante" quello si esige dall'ambiente.

foto di papa francesco create dall intelligenza artificiale 13foto di papa francesco create dall intelligenza artificiale 6foto di papa francesco create dall intelligenza artificiale 9intelligenza artificiale e guerra 2foto di papa francesco create dall intelligenza artificiale 1la foto fake di papa francesco con il piumino creata dall intelligenza artificialefoto di papa francesco create dall intelligenza artificiale 15foto di papa francesco create dall intelligenza artificiale 2foto di papa francesco create dall intelligenza artificiale 16foto di papa francesco create dall intelligenza artificiale 14foto di papa francesco create dall intelligenza artificiale 3foto di papa francesco create dall intelligenza artificiale 12