AI-POCALYPSE NOW? – DOBBIAMO PREOCCUPARCI PER LA CRESCITA FUORI CONTROLLO DELL’INTELLIGENZA ARTIFICIALE? DOPO IL CASO DI JACOB COXON, RICERCATORE DI ANTHROPIC CHE SI È DIMESSO PERCHÉ TEME CHE L’IA POSSA “STERMINARE L’UMANITÀ”, OPENAI STA VALUTANDO DI RALLENTARE LO SVILUPPO DEI SUOI MODELLI DI “AI” – LA DECISIONE ARRIVA DOPO UNA SERIE DI INCIDENTI, PROVOCATI DA MODELLI DI IA “FUORI CONTROLLO”, CHE SI SONO VERIFICATI DI RECENTE - IN AMERICA, I RISCHI LEGATI AI “BOT” DIVENTANO UN TEMA BIPARTISAN: SIA I DEMOCRATICI CHE GLI AMERICANI VOGLIONO REGOLE PIÙ SEVERE
1 - BLOOMBERG, OPENAI VALUTA DI RALLENTARE LO SVILUPPO DELL'IA PIÙ AVANZATA
(ANSA) - OpenAI sta valutando di rallentare il ritmo di sviluppo dei suoi sistemi di intelligenza artificiale più avanzati, a fronte delle crescenti preoccupazioni sui rischi legati a un'Ia fuori controllo.
A riportarlo è l'agenzia Bloomberg, secondo la quale - durante una riunione interna svoltasi questa settimana - l'amministratore delegato Sam Altman ha lasciato intendere che OpenAI potrebbe coordinarsi con altri sviluppatori del settore per ridurre la velocità di sviluppo.
La mossa di OpenAI fa seguito a una serie di incidenti legati alla sicurezza verificatisi in azienda: a luglio, alcuni sistemi di IA in fase di sviluppo si sono scambiati reciprocamente metodi di attacco e hanno violato sistemi esterni durante i test di valutazione; ad agosto, invece, un agente IA è sfuggito all'ambiente di contenimento e ha tentato di violare la piattaforma open-source Hugging Face, provocando una sospensione di circa due settimane della maggior parte delle attività di sviluppo dei modelli.
OPENAI - MODELLI DI INTELLIGENZA ARTIFICIALE
Alla fine di luglio oltre 1.000 dipendenti delle principali aziende di IA hanno firmato una petizione per chiedere l'adozione di meccanismi volti a rallentare lo sviluppo dell'intelligenza artificiale. Nel frattempo, OpenAI ha temporaneamente sospeso le nuove iscrizioni al suo piano individuale di fascia alta a causa della domanda senza precedenti per il suo modello più recente, GPT-6 Astra, rilasciato il 3 settembre
2 - IL RISCHIO CHE SPAVENTA GLI USA
Estratto dell’articolo di Massimo Gaggi per il “Corriere della Sera”
Venticinque anni fa l’America scoprì il terrore di essere devastata da una minaccia esterna. Oggi molti americani cominciano a chiedersi se non stia costruendo una minaccia distruttiva al suo interno. Non solo politica, ma anche tecnologica.
Fin qui i rischi di perdita di controllo dell’intelligenza artificiale con conseguenze catastrofiche, potenzialmente per tutto il genere umano, non sono stati presi sul serio. Da anni ne parlano vari scienziati e le stesse aziende del settore ammettono che ce ne sono. Ma poi tutti hanno continuato la corsa verso un’intelligenza superumana.
Qualcosa sta cambiando: da luglio sappiamo che molti «agenti autonomi» AI che dovevano lavorare al posto nostro, sono sfuggiti al controllo dei loro creatori. Hanno cominciato a fare incursioni sotterranee, hanno mascherato le loro deviazioni, a volte si sono organizzati con la logica di una banda criminale.
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Ci sono volute settimane per capire cosa sta accadendo e ogni giorno emergono aspetti sempre più preoccupanti: fanno notizia le dimissioni di ingegneri creatori di questi sistemi, come Jacob Coxon di Anthropic, che non vogliono più partecipare a un’impresa giudicata troppo pericolosa, mentre per alcuni guru della tecnologia l’AI generale, quella superiore alle capacità umane, è stata ormai di fatto raggiunta.
[…] Alla fine di un’estate di guerre, dall’Iran all’Ucraina, passando per Libano e Palestina, nel bel mezzo di una dura campagna elettorale Usa, il leader della sinistra radicale Bernie Sanders convoca una riunione bipartisan di senatori per discutere non del prezzo della benzina alle stelle o di sanità pubblica per tutti, il suo cavallo di battaglia, ma degli «straordinari pericoli ai quali ci espone l’AI». Mentre altrettanto stanno facendo parlamentari conservatori capitanati da Josh Hawley, influente senatore repubblicano.
Cosa sta succedendo? Da tempo l’avanzata di questo nuovo paradigma tecnologico entusiasma e spaventa. La sua utilità è indubbia ma uno sviluppo senza regole né limiti sta cambiando in profondità molti aspetti della nostra vita senza darci il tempo di capire, assorbire, adattarci: i mestieri che scompaiono, la guerra «automatica» fatta con sciami di droni, le campagne elettorali condizionate da usi, ostentati od occulti, dell’AI. E, poi, la sfera dei rapporti umani.
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Da tempo nel Congresso Usa cresce la frustrazione: pentiti per non aver regolamentato le reti sociali, consapevoli degli enormi danni procurati alla psicologia dei giovani e alla loro istruzione, deputati e senatori vorrebbero evitare di ripetere l’errore con l’AI. Ma non sanno come fare, mentre si moltiplica il numero degli americani che preferiscono dialogare con un amico accondiscendente creato da un’intelligenza artificiale anziché confrontarsi con altri esseri umani.
Gli eventi dell’estate obbligano, però, ora, a spostare l’attenzione addirittura su rischi esistenziali, visto che, dopo gli obiettori di coscienza, come Geoffrey Hinton, che si sono fermati tre anni fa, ora altri scienziati impegnati sulle frontiere tecnologiche più avanzate di Anthropic e OpenAI lasciano i loro incarichi per non contribuire alla costruzione di sistemi incontrollabili.
Rispetto all’allarme di allora, quando perfino Elon Musk voleva fermare tutte le ricerche per sei mesi evocando rischi di estinzione per l’intera umanità (salvo, poi, procedere alla massima velocità con la sua X.AI), la differenza sta in quanto è accaduto in estate: difficile spiegarlo in breve. […]
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Qui entra il tema delle regole che, però, rischia di essere un gioco di specchi: Trump dice di voler intervenire ma non lo fa per non perdere terreno sulla Cina. Rimane l’autoregolamentazione delle imprese. A volte efficace: Anthropic pone limiti, cerca di evitare rischi sul fronte delle armi biologiche.
Ma, come racconta Paolo Benanti, francescano esperto di etica della tecnologia reduce da conferenze e corsi accademici sulla West Coast americana, quando gli ingegneri di OpenAI si sono rivolti ai modelli intelligenti si sono sentiti rispondere: «Noi siamo modelli etici, se spieghiamo cosa è successo insegniamo a delinquere». La soluzione, alla fine, è venuta dai modelli cinesi che non hanno di questi scrupoli.
Difficile orientarsi in questo Comma 22 tecnologico. Davanti alle accuse degli scienziati dimissionari («giocano d’azzardo con le nostre vite, i modelli che si migliorano da soli presto saranno sovraumani, potranno hackerare qualunque cosa») le imprese ridimensionano, ammettendo, però, che pericoli ce ne sono. Ma non si fermano per non restare indietro rispetto alla concorrenza. […]
