“GLI SCIENZIATI DI OPENAI ERANO OSSESSIONATI DALLA RICERCA IDEOLOGICA DEL DIO MACCHINA” – LA GIORNALISTA AMERICANA KAREN HAO RACCONTA IL LATO OSCURO DEL COLOSSO DELLA SILICON VALLEY – OPENAI NACQUE CON L’OBIETTIVO DI CREARE DI SVILUPPARE UNA SUPERINTELLIGENZA ARTIFICIALE IN GRADO DI “SALVARE L’UMANITÀ”, MA LE COSE CAMBIARONO RAPIDAMENTE – SAM ALTMAN VOLEVA A TAL PUNTO ARRIVARE PRIMA DEGLI ALTRI CHE DECISE DI ADDESTRARE L’IA RASTRELLANDO DATI DA SOCIAL MEDIA E FORUM ONLINE. MA DATI DI SCARSA QUALITÀ PRODUCONO RISULTATI DI SCARSA QUALITÀ: ECCO CHE SONO STATI CREATI CHATBOT DIFETTOSI CHE SPUTANO MEZZE VERITÀ E TEORIE DEL COMPLOTTO – IL CLIMA DA “SETTA” NELL’AZIENDA, LA PARANOIA DEI DIPENDENTI, I RITIRI TRA LE COLLINE DELLA SIERRA NEVADA E LA CAUSA INTENTATA DA ELON MUSK…
Traduzione di un estratto dell'articolo di Madeleine Spence per “The Times”
Per le ultime tre settimane il mondo ha osservato mentre […] Elon Musk e Sam Altman, si impegnavano in una pubblica battaglia di fango attraverso un tribunale della California riguardo a un’organizzazione che avevano cofondato: OpenAI. Le prove fornite, inclusi memorandum, email e messaggi di testo, hanno offerto tutte una rarissima e allettante finestra sulle origini dell’azienda.
Karen Hao, tuttavia, conosceva già bene la storia. [… «È stato bello vedere emergere molto di ciò che avevo scoperto», mi dice quando ci incontriamo a Londra pochi giorni dopo la conclusione del processo.
A Hao fu concesso un accesso senza precedenti agli uffici di OpenAI nel 2019, e da allora ha parlato con centinaia di ex dipendenti e persone dell’entourage più ristretto di Altman per ricostruire la storia di come OpenAI sia passata da organizzazione ideologica non profit, con l’obiettivo di «salvare l’umanità», a motore di investimenti finanziari record e controversie (la scorsa settimana il Wall Street Journal ha riferito che si stava preparando a presentare domanda per una quotazione pubblica, aspettandosi una valutazione superiore a 1.000 miliardi di dollari).
È il tema centrale del suo libro, Empire of AI: Inside the reckless race for total domination, pubblicato il mese scorso, nel quale sostiene che il creatore di ChatGPT abbia innescato una corsa al progresso tecnologico rapace, estrattiva e dannosa per l’umanità.
Musk ha perso la sua causa, […] ma il processo è stato comunque una distrazione, dice Hao. Quello a cui voleva davvero che la gente prestasse attenzione era come siamo arrivati fin qui e cosa dobbiamo fare adesso.
[…] Due settimane prima, il 22 luglio 2019, OpenAI aveva ricevuto un investimento da 1 miliardo di dollari da Microsoft. Per Hao, una giovane giornalista tecnologica che aveva studiato ingegneria e lavorato per una start-up della Silicon Valley prima di entrare nella rivista MIT Technology Review, era un’opportunità capace di definire una carriera. Fu anche il momento in cui le caddero le bende dagli occhi. «Fin dall’inizio ho cominciato a rendermi conto che qualcosa non andava», dice Hao, 32 anni.
Hao era diventata un po’ cinica dopo aver trascorso troppo tempo attorno a start-up della Silicon Valley che si mascheravano da nobili iniziative. Ma OpenAI, fondata nel 2015, avrebbe dovuto essere diversa. Era una non profit che si era dedicata allo sviluppo dell’intelligenza artificiale generale (AGI), la forma più potente di IA mai concepita. L’idea era che questa superintelligenza potesse replicare, e poi superare, l’intelligenza umana.
Nella narrazione di OpenAI, avrebbe potuto diventare abbastanza potente da distruggere il mondo, oppure da creare un’utopia globale, risolvendo problemi che l’umanità non era abbastanza intelligente da affrontare. Volevano che diventasse la seconda opzione, e OpenAI sarebbe stata uno strumento trasparente e collaborativo per permettere al mondo di arrivarci.
Hao fu sorpresa di trovare, invece, quella che considerava una netta mancanza di trasparenza. Era accompagnata ovunque. Non le era permesso visitare certi piani o partecipare a determinate riunioni. «Mentre parlavo con i ricercatori, notavo che erano molto nervosi nel dire cose che non avrebbero dovuto dire, il che era bizzarro, perché l’intera premessa di OpenAI era che avrebbero condiviso tutto», racconta Hao.
[…] Parlando in seguito con persone interne all’azienda, avrebbe sentito raccontare come quella che era iniziata come un’organizzazione che «lanciava idee contro il muro per vedere cosa funzionasse» si fosse trasformata sotto l’ossessione unica di Altman: raggiungere l’AGI prima di tutti gli altri. Questo includeva concorrenti come Google, ma anche Stati come la Cina.
I suoi scienziati e ricercatori erano tra le menti più brillanti del settore. Ma, dice Hao, la loro fede nell’AGI era qualcosa di più simile a un fervore religioso. Lei la definisce «la ricerca ideologica del dio macchina».
Diversi ex dipendenti di OpenAI hanno raccontato a Hao di un ritiro tra le colline della Sierra Nevada dove scienziati senior, vestiti con accappatoi, sedevano attorno a un braciere in un ampio lodge e osservavano Ilya Sutskever, il brillante ed eccentrico chief scientist di OpenAI, bruciare un’effigie «rappresentante l’AGI». […]
Hao sostiene che ci fosse paranoia riguardo alla fuga di segreti aziendali e all’infiltrazione di spie. Sutskever […] propose di costruire una struttura di contenimento sicura, un «bunker» all’interno del quale ci sarebbe stato un computer completamente scollegato da qualsiasi rete. Un altro dirigente, Dario Amodei, utilizzava un computer scollegato per scrivere documenti strategici critici, collegandolo direttamente a una stampante in modo da far circolare soltanto copie cartacee.
Ciò che più disilluse Hao, tuttavia, fu il modo in cui questa incessante ricerca della superintelligenza stava plasmando l’azienda e il settore. OpenAI decise che il modo migliore per raggiungere l’AGI fosse prendere i propri large language models (LLM) e aumentarne drasticamente la scala.
Questo significava «immettere in essi quantità sempre maggiori di dati e addestrarli su supercomputer più grandi di qualunque altro mai costruito nella storia umana», dice Hao. Tutta questa nuova potenza di elaborazione costava denaro, e OpenAI creò un ramo for profit per trovarlo.
[…] Fino a quel momento, la ricerca sull’IA era stata molto più mirata. Gli scienziati utilizzavano dataset piccoli e limitati per testare ipotesi su ciò che l’apprendimento automatico artificialmente intelligente potesse fare, come rilevare segni dell’Alzheimer alimentandolo con dataset di scansioni cerebrali.
Ora, invece, si trattava di fornire all’IA quanti più dati possibile nella speranza che sviluppasse «intelligenza» in qualsiasi campo. I risultati erano modelli sempre più fluenti che sembravano impressionanti, sebbene alcuni fossero scettici sul fatto che questo rappresentasse una reale capacità di risoluzione di problemi e una vera intelligenza. Ciononostante, i concorrenti di OpenAI si affrettarono ad aggiornare o creare i propri LLM.
«Abbiamo assistito al collasso dell’intero campo dell’IA e dell’intera industria verso un approccio unico che è intellettualmente estremamente pigro e socialmente profondamente dannoso», sostiene Hao. «Tutte le cose che vediamo in termini di impatti negativi dell’IA derivano da questa idea della scala.»
Gli enormi data center ad alto consumo idrico che stanno sorgendo in tutto il mondo, facendo aumentare i prezzi locali dell’energia, sono il risultato delle aziende dell’IA che alimentano gli LLM con sempre più dati nel tentativo di espandere la loro base di conoscenze. Nel frattempo, sostiene Hao, le aziende che rastrellano internet in cerca di frammenti di informazioni con cui addestrarli hanno eroso la nostra privacy e la proprietà intellettuale.
All’inizio, OpenAI si concentrava su «dati puliti» — testi autorevoli come articoli scientifici peer-reviewed, dice. Ma finirono rapidamente. Così iniziarono a raschiare il web alla ricerca della roba sporca, aspirando dati da fonti come social media e forum online. Poteva trattarsi di qualsiasi cosa, da una recensione di un ristorante a qualcuno che sosteneva su Reddit che la Terra è piatta. Questi dati di scarsa qualità producevano risultati di scarsa qualità — chatbot difettosi che sputavano mezze verità e teorie del complotto.
Questo può dipingere un quadro cupo, ma Hao insiste sul fatto di non essere una «catastrofista» dell’IA. La risposta a tutto questo, dice, non è fermare il progresso dell’IA, il che significherebbe chiudere un mondo di possibilità.
[…] Empire of AI: Inside the reckless race for total domination è pubblicato da Penguin.
sam altman elon musk 3
sam altman 
sam altman elon musk 2
sam altman ilya sutskever 
openai2
ilya sutskever 6
karen hao
