david robinson sam altman openai

“PER L’INTELLIGENZA ARTIFICIALE SERVONO REGOLE COME PER IL NUCLEARE” – DAVID ROBINSON, EX RESPONSABILE SICUREZZA DI OPENAI, SCRIVE UNA LETTERA A “THE ATLANTIC” PER DENUNCIARE LA CULTURA AZIENDALE “CORROTTA” DELL’AZIENDA DI SAM ALTMAN: “IIL FUTURO DIPENDE DA UNA SAGGEZZA CHE MANCA ALLA SILICON VALLEY. SAGGEZZA SU COME GESTIRE TECNOLOGIE PERICOLOSE E SU COSA SIGNIFICHI PRENDERSI CURA DELLE PERSONE” – “OPENAI HA COSTRUITO IL PROPRIO PERCORSO CON UNA STRATEGIA DI TENTATIVI ED ERRORI, CHE GARANTISCE FALLIMENTI PERIODICI, MA LA PORTATA DI TALI FALLIMENTI STA CRESCENDO MAN MANO CHE I SISTEMI DIVENTANO PIÙ SOFISTICATI...”

EX DIPENDENTE OPENAI DENUNCIA RISCHIO, 'SERVONO REGOLE COME PER IL NUCLEARE'

DAVID ROBINSON EX OPENAI

(ANSA) - Un altro ex dipendente di OpenAI si è unito al coro di appelli per rendere sicura l'intelligenza artificiale, sostenendo che il settore debba prendere esempio dall'aviazione o dall'industria nucleare per evitare disastri.

 

In un articolo pubblicato su The Atlantic, David Robinson ha ribadito gli avvertimenti provenienti sia dall'interno che dall'esterno del mondo dell'Ia: gli agenti di intelligenza artificiale si stanno evolvendo così rapidamente e stanno diventando così intelligenti da rischiare, in un futuro non lontano, di sfuggire al controllo e potenzialmente di annientare l'umanità.

 

Secondo Robinson, gli incidenti allarmanti segnalati dall'inizio dell'estate dimostrano che il settore non sta prendendo la sicurezza sul serio. Robinson ha inoltre sottolineato l'importanza cruciale della questione dell'"allineamento", termine tecnico del settore per indicare come l'Ia possa essere addestrata a rispettare i valori umani, un aspetto che l'industria non è ancora riuscita nemmeno a definire, figuriamoci a padroneggiare.

 

sam altman openai

SI DIMETTE IL RESPONSABILE DELLA SICUREZZA DI OPENAI. LA LETTERA SU ATLANTIC: «MI SONO LICENZIATO PERCHÉ LA SUA CULTURA AZIENDALE È CORROTTA»

Estratto dell’articolo di Serena Palumbo per www.corriere.it

 

«Quello che sto per dirvi è ormai diventato un cliché: questa settimana mi sono dimesso da OpenAI». Inizia così la lettera che David Robinson ha scelto di pubblicare su The Atlantic

 

OPENAI - MODELLI DI INTELLIGENZA ARTIFICIALE

«Ero a capo della redazione dei rapporti sulla sicurezza che pubblicavamo in occasione di ogni lancio importante. Ora mi unisco a una schiera di ex colleghi, sia di OpenAI che degli altri leader del settore, che hanno deciso che la strada intrapresa è inaccettabile».

 

[...] «Concordo con altri ex dipendenti sul fatto che le aziende che sviluppano questa tecnologia non stiano prestando la dovuta attenzione. Credo però che dobbiamo guardare oltre le singole regole o le nuove leggi. Dobbiamo parlare di cultura aziendale».

 

DAVID ROBINSON EX OPENAI

Ed è proprio sulle dinamiche interne che si concentra gran parte della sua riflessione. Questo perché, come scrive Robinson, «il futuro dipende da una saggezza che manca alla Silicon Valley. Saggezza su come gestire tecnologie pericolose e, ancor più fondamentalmente, saggezza su cosa significhi prendersi cura delle persone. Questo momento richiede un grado di umiltà che non è naturale per chi ha avuto successo grazie alla propria estrema sicurezza».

 

Un contesto nel quale, nonostante tutto, «i miei ex colleghi di OpenAI sono stati lungimiranti: hanno compreso le leggi di scalabilità secondo cui sistemi di intelligenza artificiale più grandi sarebbero stati più intelligenti, e quindi si sono impegnati a fondo nella costruzione di sistemi più grandi, a caro prezzo. Un atteggiamento propositivo, volto a raggiungere l'apparentemente impossibile, unito a scadenze di lavoro che si traducono in sprint perpetui, è comune in tutto il settore».

 

hugging face

Ma è proprio questa spinta alla crescita rapida che finisce per condizionare la gestione della sicurezza. «L'approccio alla sicurezza che emerge da una cultura di questo tipo parte da un ottimismo senza riserve sulla capacità di risolvere i problemi man mano che si presentano».

 

Ed ecco che OpenAI, come scrive, ha costruito parte del proprio percorso attraverso una strategia di «tentativi ed errori», definita dall'azienda «implementazione iterativa»: i sistemi vengono messi alla prova, le criticità individuate e le misure di protezione progressivamente rafforzate.

 

Un modello che [...] presenta però un limite strutturale: «Per sua stessa natura, garantisce fallimenti periodici, e la portata di tali fallimenti sta crescendo man mano che i sistemi diventano più sofisticati».

 

SAM ALTMAN - OPENAI

A sostegno della sua tesi Robinson cita alcuni episodi recenti: «Quest'estate, nell'incidente di Hugging Face , OpenAI ha rilasciato per errore un gran numero di agenti. L'azienda ha reagito apportando miglioramenti alla sicurezza. Ma anche dopo queste modifiche, OpenAI ha segnalato che i suoi controlli di sicurezza hanno fallito di nuovo [...]». E ancora: «Anche Anthropic ha ammesso di aver disattivato accidentalmente i propri sistemi di sicurezza a causa di una configurazione errata». Due casi generati dalla stessa matrice: «Credo che tali errori siano tipici del settore, data la velocità e la flessibilità con cui le persone operano».

sam altman

Ultimi Dagoreport

giovanni floris urbano cairo enrico mentana

FLASH! – SE SON FLORIS, FIORIRANNO… – MENTRE SI GONFIANO LE PROBABILITÀ DI RITROVARCI IL PROSSIMO ANNO UN “CHICCO IN THE SKY”, PER LA DIREZIONE DEL TGLA7 URBANO CAIRO ACCAREZZA SEMPRE PIÙ L’IDEA DI SOSTITUIRE ENRICO MENTANA CON GIOVANNI FLORIS – COME DAGO-DIXIT, IL 71ENNE MENTANA, IN PREDA A UN RAPTUS DI MEGALOMANIA SENILE, SI DIVERTE A DISSEMINARE INDIZI COME FOSSIMO IN UN QUIZ, DICHIARANDO DI AVER “RICEVUTO OFFERTE DA QUATTRO GRUPPI TV SU SEI”. IN REALTA', DELLE OFFERTE DI GEDI-REPUBBLICA, DELLA RAI O DI MEDIASET, NON C'E' NESSUNISSIMA TRACCIA...

gianni de gennaro giuliano amato sergio mattarella strage mafia paolo borsellino via d'amelio amelio

DAGOREPORT – I MAGISTRATI DELLA PROCURA DI CALTANISSETTA HANNO NELLE LORO CARTE LA “PISTOLA FUMANTE” CHE HA PORTATO ALLA RICHIESTA DI UN MANDATO DI ARRESTO PER GIANNI DE GENNARO, L’“UOMO FORSE PIÙ POTENTE, IN ITALIA, DEGLI ULTIMI TRENT’ANNI”? – NON RAVVISANDO SUFFICIENTI GRAVI INDIZI DI COLPEVOLEZZA, LA RICHIESTA DI ARRESTO È STATA RESPINTA DAL GIUDICE PER LE INDAGINI PRELIMINARI (GIP). IL TRIBUNALE DEL RIESAME AVREBBE DOVUTO DECIDERE SULL'APPELLO IL PROSSIMO 1° DICEMBRE. MA L'EX CAPO DELLA POLIZIA NON HA ATTESO DIECI GIORNI PER LA SENTENZA: SI È TOLTO LA VITA OGGI, A 78 ANNI, CON UN COLPO DI PISTOLA NELLA SUA CASA IN CAMPAGNA – ORA LA PROCURA DI GROSSETO HA APERTO UN FASCICOLO D'INDAGINE PER ISTIGAZIONE AL SUICIDIO – NEL CORO DI DICHIARAZIONI DI CORDOGLIO, E’ MANCATA QUELLA DEL PRESIDENTE DELLA REPUBBLICA SERGIO MATTARELLA, CHE SI È LIMITATO A TELEFONARE A ANDREA DE GENNARO, COMANDATE GENERALE DELLA GUARDIA DI FINANZA, PER ESPRIME IL PROPRIO CORDOGLIO PER LA SCOMPARSA DEL FRATELLO - ALTRA VOCE ASSENTE È QUELLA DI GIULIANO AMATO: IL DOTTOR SOTTILE E GIANNI DE GENNARO HANNO INFATTI CONDIVISO DUE PASSAGGI CHIAVE NELLE ISTITUZIONI ITALIANE, COMPRESO IL G8 DI GENOVA…….

csm chiara colosimo consiglio superiore della magistratura cesare placanica giorgia arianna meloni

DAGOREPORT – AVVISO AI NAVIGATI: NON C’È SOLO IL SENATORE SERGIO RASTRELLI NELLA LISTA DEI CANDIDATI CHE FDI PUÒ ESPRIMERE AL CSM. TRAMONTATA L’IDEA INDIGERIBILE A FORZA ITALIA DI ANTONIO DI PIETRO, NELLA COFANA BIONDA DI GIORGIA MELONI E DELLA SORELLINA ARIANNA, FRULLANO ALTRI TRE NOMI. CI SONO LA SENATRICE SUSANNA CAMPIONE E L’AVVOCATO GIOVANNI DORIA, VICEPRESIDENTE DEL CONSIGLIO SUPERIORE DELLA GIUSTIZIA AMMINISTRATIVA – MA È L’ULTIMO NOME SUI TACCUINI DI PALAZZO CHIGI CHE SUSCITA SCALPORE: CESARE PLACANICA, AVVOCATO PENALISTA CHE “ER CECATO” MASSIMO CARMINATI, SCELSE COME DIFENSORE NEL PROCESSO “MAFIA CAPITALE-MONDO DI MEZZO” - LA CANDIDATURA DI PLACANICA È SPONSORIZZATA NIENTE MENO CHE DA CHIARA COLOSIMO, CHE LA DUCETTA HA ISSATO CON FORZA ALLA PRESIDENZA DELLA COMMISSIONE PARLAMENTARE ANTIMAFIA. SÌ, PROPRIO QUELLA COLOSIMO CHE SI È FATTA FOTOGRAFARE NEL CARCERE DI REBIBBIA CON IL TERRORISTA NERO, LUIGI CIAVARDINI – LA PRECISAZIONE DI CESARE PLACANICA

urbano cairo luca cordero di montezemolo melania rizzoli vittorio feltri gaetano micciche mario draghi

DAGOREPORT - BARETTO GRAND FOLIES! DUE SERE FA, LA SALETTA PIÙ RISERVATA DEL PIÙ ESCLUSIVO RISTORANTE DI MILANO SI È TRASFORMATA IN UN GRAN SALOTTO CHE HA VISTO ATTOVAGLIARSI, SU INVITO DEL PRESIDENTE DI IMI-INTESA, IL BANCHIERE GAETANO MICCICHÉ, I SEGUENTI AUGUSTI OSPITI: L’EDITORE-IN-CHIEF URBANO CAIRO, IL DUO DELLE AMBIZIONI SBAGLIATE MONTEZEMOLO-DELLA VALLE E ALBERTO ZANGRILLO. A UN TIRO DI FORCHETTA, UN ALTRO DOVIZIOSO TAVOLO ACCOGLIEVA MARIO DRAGHI E CONSORTE, SEDUTI ACCANTO AGLI INSEPARABILI VITTORIO FELTRI E MELANIA RIZZOLI, TUTTI BEN ALLIETATI DALL’INESAURIBILE VERVE ALLA BOLOGNESE DEL 76ENNE MASSIMO PONZELLINI…

giorgetti meloni tajani salvini

DAGOREPORT - A CHE PUNTO È LA NOTTE DELL’ARMATA BRANCA-MELONI? - SE FORZA ITALIA E LEGA NON POSSONO STRAPPARE (NON HANNO I VOTI), CON LA LEGGE DI BILANCIO LE TENSIONI IN MAGGIORANZA DEFLAGRANO IN TURBOLENZE, MANDANDO IN TILT GLI OTOLITI DI UNA MELONI SEMPRE PIU' ISOLATA, DIFFIDENTE DI TUTTO E DI TUTTI, IVI COMPRESI I FEDELISSIMI DELLA FIAMMA MAGICA DI PALAZZO CHIGI - LA DUCETTA ASPETTA E SPERA, CON BUONE PROBABILITA', LO STOP DELL’UE ALLA PROCEDURA D’INFRAZIONE IN PRIMAVERA. A QUEL PUNTO, CON IL SACCO DELLA BEFANA SOTTOBRACCIO, DI CORSA AL VOTO ANTICIPATO DI MAGGIO, MENTRE SCHLEIN E CONTE ANCORA LITIGHERANNO PER UCRAINA, PATRIMONIALE E IL CENTRIFUGATO DI RENZI – SE IN ITALIA PIOVE, IN EUROPA TUONA: FALLITO IL FLIRT CON TRUMP, LA STATISTA IMMAGINARIA SI BARCAMENA CON LA MAGGIORANZA PPE-PSE DI URSULA, FORTE DEL SUO DIRITTO DI VETO NEL CONSIGLIO EUROPEO – ATTENZIONE A DARE PER FINITA L'ERA DI "BORGIA" MELONI: DEBOLE IN CASA, DEBOLISSIMA IN EUROPA, QUINDI È ANCORA PIÙ PERICOLOSA E RISCHIA DAVVERO DI VINCERE DI NUOVO...

salvini matteo elisabetta pellegrini remo

DAGOREPORT – CI SONO DUE “PELLEGRINI” IN PELLEGRINAGGIO PER LE POLTRONE: LA PROSSIMA SETTIMANA IL PARLAMENTO DOVRÀ DARE IL VIA LIBERA ALLA NOMINA DI REMO MORZENTI PELLEGRINI ALL’ANAC. STESSO COGNOME, STESSO PARTITO (LA LEGA), DIVERSO INCARICO PER ELISABETTA PELLEGRINI, NOMINATA DA SALVINI, NEL 2023, CAPO STRUTTURA DI MISSIONE DEL MINISTERO DELLE INFRASTRUTTURE. LADY PELLEGRINI, A DIFFERENZA DI REMO, È ATTUALMENTE INDAGATA DALLA PROCURA DI BELLUNO PER TURBATIVA D'ASTA, MA SALVINI È COSÌ CERTO DELLA LEGITTIMITÀ DI TUTTI GLI ATTI FIRMATI DALLA SUA STRETTISSIMA COLLABORATRICE CHE LE AVREBBE CONCESSO DI POTER ACCORPARE ULTERIORI RILEVANTI INCARICHI, ARRIVANDO ADDIRITTURA AL RUOLO DI COMMISSARIO STRAORDINARIO PER IL PIANO CASA.