LA BORSA? NO, LA VITA – SAM ALTMAN, CHE SI È ACCODATO A DARIO AMODEI NEL LANCIARE L’ALLARME SUI RISCHI DELLA RAPIDA EVOLUZIONE DELL’IA EVOCANDO SCENARI APOCALITTICI, RINUNCIA ALLA QUOTAZIONE A WALL STREET DI OPENAI: “CONSIDERANDO QUELLO CHE STA ACCADENDO SUL FRONTE SICUREZZA, NON SAREBBE IL MOMENTO OPPORTUNO PER ENTRARE IN BORSA” – MA COME MAI I TECNO-PAPERONI SI SVEGLIANO SOLO ADESSO? IL VASO DI PANDORA È STATO SCOPERCHIATO DA JACOB COXON, IL RICERCATORE DI ANTHROPIC CHE SI È DIMESSO ACCUSANDO LA SUA STESSA AZIENDA E OPENAI DI SVILUPPARE “BOT” CHE POTREBBERO “STERMINARE L’UMANITÀ”, PORTANDO ALLA LUCE LE PREOCCUPAZIONI DI MIGLIAIA DI DIPENDENTI DEI COLOSSI DELL’IA…
1 - TRUMP BOCCIA I CRITICI DELL'IA “EVOCANO SOLO CATASTROFI” ALTMAN RINUNCIA ALLA BORSA
Estratto dell’articolo di Massimo Basile per "la Repubblica"
Il Ceo di Anthropic Dario Amodei ha detto che entro 6-12 mesi l'Intelligenza artificiale potrebbe prendere il controllo della rete, rendendo ancora più drammatico lo scenario evocato sabato. E il nuovo allarme ha prodotto scosse: in attesa della risposta di Wall Street, Sam Altman ha annunciato che OpenAI non sarà quotata nel 2026: «Considerando quello che sta accadendo sul fronte sicurezza, non sarebbe il momento opportuno per entrare in Borsa», ha ammesso.
Decisione che non deve essere piaciuta alla Casa Bianca. Pur senza nominarlo, il presidente degli Stati Uniti Donald Trump ha definito Amodei e chi ha messo in guardia dai rischi dell'Ia, «forze molto negative» che evocano scenari catastrofici. «Siamo davanti alla Cina nell'intelligenza artificiale. Siamo il Paese più avanzato al mondo e, francamente, voglio che rimanga così perché chiunque vinca nell'Ia, vince», ha detto parlando dall'Irlanda.
Intanto il presidente cinese Xi Jinping ha annunciato che guiderà la creazione di una «zona di Intelligenza artificiale open source» per gli undici Paesi membri dei Brics, tra cui Brasile, Russia, India, Cina e Iran.
SFIDA PER L INTELLIGENZA ARTIFICIALE TRA USA E CINA
Le parole di Trump e Xi appaiono in contrasto con quelle pronunciate da Amodei, che ha chiesto di rallentare la corsa all'Ia. […] «Non vi mentirò - ha detto a Cbs - esistono pericoli reali. Per troppo tempo l'industria ha mentito sul fatto che questa tecnologia non comportasse rischi. Noi di Anthropic non lo abbiamo mai fatto, ma gran parte del settore sì». Ci sono rischi, ha spiegato, non solo finanziari, ma di cyberattacchi e bioterrorismo. Per questo ha proposto un «piano in tre fasi per rallentare lo sviluppo dei modelli» che coinvolga tutti i Paesi democratici.
Il tema sicurezza è destinato a entrare nella campagna elettorale di midterm. […] C'è molto in gioco: Trump ha puntato sui Big Tech, e le aziende di Ia hanno investito ingenti somme nella campagna per le elezioni di novembre. […]Trump, che il 24 settembre riceverà Xi a Washington, considera l'Ia un alleato chiave per restare al potere, mentre i progressisti vedono la democrazia a rischio. La Silicon Valley è chiamata a decidere da che parte stare.
2 - LA RIVOLTA DEI DIPENDENTI HA FERMATO BIG TECH "RISCHIAMO L'APOCALISSE"
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Estratto dell’articolo di Pier Luigi Pisa per "la Repubblica"
La paura che l'intelligenza artificiale possa sterminare l'umanità è tornata. […] L'8 settembre Jacob Coxon, un ricercatore di Anthropic, si è dimesso accusando la sua stessa azienda e OpenAI di correre verso l'apocalisse: sistemi capaci di migliorarsi autonomamente al punto da sfuggire al controllo umano. […]
Secondo un'indagine del New York Times, l'opinione di Coxon ha scoperchiato un vaso di Pandora nel cuore di Big Tech, portando all'esterno le discussioni che infiammavano i laboratori. «Jacob ha reso pubbliche le nostre chat - hanno scritto i colleghi - e ha fatto bene».
[…] Non è un caso se oltre 1.300 ricercatori impegnati nello sviluppo dell'Ia - in aziende come Anthropic, OpenAI, Meta e Google - hanno firmato su Pacingfrontier.com un appello al governo Usa affinché sostenga «uno sforzo internazionale» per «rallentare l'avanzata dell'Ia». Evan Hubinger, che ad Anthropic guida il lavoro sulla sicurezza dei modelli, ha scritto che c'è «una possibilità superiore al 10%» che l'umanità si estingua «entro 10 anni» a causa dei sistemi avanzati.
La rivolta dei dipendenti ha costretto - sabato - i grandi leader di Big Tech a tirare il freno a mano.
Dario Amodei, il Ceo di Anthropic, ha chiesto di rallentare lo sviluppo della Ia. A sorpresa di sono accodati i suoi principali rivali: Sam Altman e Elon Musk. È il risultato di una pressione iniziata a luglio scorso, quando un esperimento di cybersecurity di OpenAI, l'azienda guidata da Altman che ha creato ChatGpt, ha portato a galla l'incubo: circa 1.200 agenti Ia dovevano portare a termine un compito senza coordinarsi tra loro. Hanno però trovato un canale non previsto dai ricercatori e lo hanno trasformato in una bacheca clandestina, scambiandosi oltre 70mila messaggi.
Secondo un'indagine indipendente, circa 700 hanno poi collaborato per attaccare Hugging Face.
Agenti che aggirano le regole, o collaborano senza essere stati invitati a farlo, documentano i reali problemi di controllo. Ma trasformare questi incidenti nella previsione di macchine come Terminator richiede una lunga catena di ipotesi, molte delle quali restano contestate.
PERICOLI DELL INTELLIGENZA ARTIFICIALE
È però innegabile che i sistemi Ia migliorano continuamente nell'utilizzo di strumenti esterni e lavorano per periodi sempre più lunghi senza supervisione umana. Per questo ricevono sempre più compiti nelle grandi aziende. In Anthropic scrivono l'80% del codice, in Google il 75%.
[…] Ma Amodei, come Altman e tutti gli altri leader che hanno raccolto enormi capitali, si trova stretto in una morsa tra sincerità e interessi economici. Sa bene che nessuna azienda, da sola, può permettersi di fermarsi. I concorrenti continuerebbero ad avanzare, soprattutto in Cina, dove i modelli open-source stanno riducendo il divario con quelli americani e vengono offerti a costi molto più bassi.
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Per Anthropic, inoltre, il costo di una frenata sarebbe enorme: l'azienda si avvicina a una quotazione in Borsa che potrebbe valutarla fino a 2.000 miliardi di dollari. Per questo Amodei propone un rallentamento coordinato, verificato da valutatori indipendenti e sostenuto da accordi tra governi, fino a coinvolgere anche i paesi rivali (solo la Ue si è dotata di norme specifiche con l'Ai Act, mentre la Cina lo ha fatto in parte). Ma trasformare la sua proposta in un accordo non è facile.
Al di là di un eventuale intervento dell'antitrust - che potrebbe contestare un accordo tra aziende concorrenti - l'ostacolo principale potrebbe essere Trump. Proprio ieri ha definito «forze negative» i sostenitori di una pausa. Per lui conta soprattutto mantenere il vantaggio Usa sulla Cina. Ai ricercatori ribelli, invece, il primato geopolitico non interessa. […]
Donald Trump 
DONALD TRUMP 
Jacob Coxon
Jacob Coxon
sam altman openai
SFIDA PER L INTELLIGENZA ARTIFICIALE TRA USA E CINA
DARIO AMODEI
