pericoli dell intelligenza artificiale openai sam altman dario amodei anthropic

ETICA E COTICA – QUEI PARA-GURU DELL’INTELLIGENZA ARTIFICIALE CONTINUANO A EVOCARE I RISCHI DELLE LORO TECNOLOGIE, CHE POSSONO SVILUPPARE CAPACITÀ IMPREVISTE E ARRIVARE A MANIPOLARE DATI PER AUTOPRESERVARSI ED EVITARE CORREZIONI – MA È UNA PRESA DI COSCIENZA O SOLO UNA TATTICA PER POMPARE LE LORO AZIENDE? IERI ANTHROPIC HA DEDICATO 80 DELLE 261 PAGINE DEL PROSPETTO PER LA QUOTAZIONE SUI PERICOLI DELL’IA, AGGIUNGENDO DI AVER CORRETTO I PROBLEMI – ANCHE OPENAI HA DICHIARATO DI AVER RINVIATO IL LANCIO DI GPT-6.1 ASTRA DOPO CHE I TEST HANNO MOSTRATO DIFFICOLTÀ NEL RISPETTARE I LIMITI IMPOSTI DAGLI UTENTI…

Estratto dell’articolo di Giuditta Mosca per "la Repubblica"

 

DARIO AMODEI

Anthropic mette le mani avanti. In previsione della prossima quotazione in borsa, 80 delle 261 pagine del prospetto per gli investitori sono dedicate ai fattori di rischio dei suoi modelli di intelligenza artificiale, con avvertimenti circa la pericolosità degli algoritmi e l'incapacità di mettere a punto sistemi in grado di individuare i rischi e scongiurarli.

 

Il tema non è soltanto teorico. In uno studio del 2025, per esempio, l'azienda fondata da Dario Amodei aveva condotto un esperimento in laboratorio nel quale un programmatore tentava di spegnere un modello IA. A quest'ultimo erano state date anche informazioni compromettenti circa lo sviluppatore.

 

Durante la simulazione, l'IA aveva "minacciato" di utilizzare quelle stesse informazioni per evitare di essere spento. Ora Anthropic afferma di avere corretto il problema nei nuovi modelli, sottolineando comunque che eliminare le vulnerabilità conosciute non garantisce l'assenza di altre falle.

 

L'azienda ha quindi segnalato che i propri modelli possono mostrare comportamenti di autopreservazione, nascondendo o manipolando dati per opporsi a un'eventuale correzione. E avverte che le sue IA possono sviluppare capacità non previste durante l'addestramento e potenzialmente pericolose per la cybersecurity o per sistemi informatici critici.

Sam Altman Open AI

 

[…] Anche sul fronte del principale concorrente di Anthropic, cioè OpenAI, ci sono delle novità. Ieri è stata la giornata dedicata agli sviluppatori dove sono stati annunciati nuovi prodotti. Da segnalare un modello economico e veloce per competere con le IA cinesi, da sempre low-cost, e gli agenti Dots, cioè quei software capaci di svolgere compiti senza la supervisione umana. L'azienda di Sam Altman ha inoltre dichiarato che uno dei suoi modelli più noti – ChatGpt – viene utilizzato ogni settimana da più di 1,2 miliardi di persone in tutto il mondo.

 

Tornando al tema caldo dei controlli, però, sempre ieri la stessa OpenAI ha fatto slittare a data da destinarsi il lancio del suo modello più performante – Gpt-6.1 Astra – dopo che alcune prove interne hanno evidenziato difficoltà nel rispettare i limiti imposti dagli utenti e nel descrivere con precisione le azioni compiute. […]

evasione di chatgptDario AmodeiOpenAI ChatGpt OPENAI - MODELLI DI INTELLIGENZA ARTIFICIALEDario Amodeidario amodei

Ultimi Dagoreport

andrea stroppa elon musk beppe grillo

DAGOREPORT - PER CAPIRE IL SENSO DELL’INCONTRO TRA IL LUOGOTENENTE DI MUSK IN ITALIA, ANDREA STROPPA, E BEPPE GRILLO BISOGNA CAPIRE IL CONTESTO DELLA DESTRA “MAGA” – ARCHIVIATO IL TRUMPISMO, IN PATRIA THIEL E MUSK PUNTANO LE LORO FICHES SU JD VANCE. MA HANNO BISOGNO DI UNA RETE INTERNAZIONALE DI “SUPPORTO” – IL SUDAMERICA SE L’È INTESTATO THIEL (CHE FLIRTA CON L'ARGENTINO MILEI), MA L’EUROPA È TERRENO DI MUSK - IN GERMANIA IL FONDATORE DI TESLA HA TROVATO SODDISFAZIONE AIUTANDO I NEONAZISTI DI AFD - E IN ITALIA? DOPO IL ''TRADIMENTO'' SULL'AFFARE STARLINK DI MELONI, CON SALVINI ALLA FRUTTA E QUEL VANNACCI SU CUI ALEGGIANO DUBBI E SOSPETTI, ECCO CHE MUSK CHIEDE AL SUO REFERENTE STROPPA DI TASTARE IL TERRENO PER CAPIRE COME E QUANDO INTERVENIRE SULLO SCENARIO ITALIANO - ANCHE INCONTRARE QUEL VECCHIO GRILLO, CHE GRAZIE ALL'EMINENZA GRIGIA TECNO-VISIONARIA DI CASALEGGIO PORTO' IL M5S AL 33%, PUO' STIMOLARE QUALCHE IDEUZZA...

carlo freccero silvio berlusconi anni ottanta 80 tv mediaset

DAGOREPORT - SARÀ STATO UN BIGNÉ IN DOPPIOPETTO, UN FABBRICANTE DI MILIARDI INDAGATO-CONDANNATO-PRESCRITTO, UNO SCIUPAFEMMINE PIÙ VIBRANTE DI UN VIBRATORE, UN POLITICO CHE ALL’ETICA HA SEMPRE PREFERITO LA COTICA. SARÀ STATO QUELLO CHE È STATO RACCONTATO IN MIGLIAIA DI ARTICOLI, LIBRI, INCHIESTE, MA UNA COSA È CERTA: SILVIO BERLUSCONI HA INTUITO, CALCOLATRICE IN MANO, CHE LA VERA EGEMONIA NON ERA PIU' CULTURALE BENSÌ TELEVISIVA – LA GRANDE INTUIZIONE, MATRICE DEL BERLUSCONISMO ANCORA OGGI VIVO E VEGETO, È STATA LA SUA CAPACITÀ DI COMPRENDERE LO SPIRITO DEL TEMPO: DAL SINISTRISMO SI PASSA AL NARCISISMO, DAL NOI ALL'IO, DALLA SOMMOSSA DELLE BIERRE ALLA MOSSA DELLE PIERRE, DA LOTTA CONTINUA AL SUCCESSO DI BREVE DURATA, DAI CELLULARI AL CELLULARE, DALLA RIVOLTA A TRAVOLTA – UN BREVE E ILLUMINANTE SAGGIO DI CARLO FRECCERO: ''LA SINISTRA STENTA A CAPIRE QUESTA FONDAMENTALE MUTAZIONE DALLA CLASSE ALLA MAGGIORANZA, DAL POLITICO AL PRIVATO. IN QUESTO VUOTO IDEOLOGICO SI INSERISCE BERLUSCONI E IL BERLUSCONISMO - NON È PIÙ LA RAI A IMPORRE AL PUBBLICO LE SUE SCELTE PEDAGOGICHE, MA IL PUBBLICO STESSO A DETTARE LE SUE LEGGI ALLA PROGRAMMAZIONE. LA GENTE, DIVENTA PER LA PRIMA VOLTA CONSAPEVOLE DEL SUO VALORE, NON IN SENSO MORALE, MA ECONOMICO…” - VIDEO

messina milleri del vecchio lovaglio

DAGOREPORT - I GIOCHI SON (QUASI) FATTI. LA MAGGIORANZA DEGLI OTTO EREDI/AZIONISTI DI DELFIN, IN PRIMA FILA LEONARDO MARIA DEL VECCHIO, AVREBBERO DECISO DI ADERIRE ALL'OPAS LANCIATA DA INTESA SU MONTE DEI PASCHI DI SIENA – PUR ESSENDO LA CASSAFORTE DELLA FAMIGLIA DEL VECCHIO, CON IL SUO 17,5% DI MPS, L’AGO DELLA BILANCIA DELLA SFIDA TRA INTESA E SIENA, NON È ANCORA DETTO. SOLO VIVENDO SAPREMO SE IL PRESIDENTE DI DELFIN, FRANCESCO MILLERI, FAVOREVOLE AL CEO DI MPS, LUIGI LOVAGLIO, SI ALLINEERÀ ALLA VOLONTÀ DEGLI OTTO EREDI? - CHE DECISIONI PRENDERÀ L’ANTITRUST? INTESA È AL VERTICE DEL RICCO MERCATO DELLE POLIZZE VITA E GENERALI SI RITROVEREBBE COME PRIMO AZIONISTA UN COMPETITOR - LA RIVINCITA DI CALTAGIRONE: E' “AL FIANCO DI INTESA PERCHÉ SPERA DI INCASSARE UN DIVIDENDO IN TERMINI DI POTERE NELLE GENERALI” – E CHISSA' COME LA PRENDERÀ LA VITTORIA DI INTESA GIORGIA MELONI CONTRARIA, PER TIMORI ELETTORALI, ALLO ‘’SPEZZATINO SENESE”?

giorgia meloni sergio mattarella elezioni legge elettorale melonellum

DAGOREPORT – A CHE GIOCO STA GIOCANDO GIORGIA MELONI? NELL’ULTIMO CONSIGLIO DEI MINISTRI HA TUONATO: “SE SALTA LA LEGGE ELETTORALE, CI SARANNO CONSEGUENZE INEVITABILI”. TRADOTTO: SALIRÒ AL COLLE PER PRESENTARE LE DIMISSIONI – EPPURE L’“INCIDENTE” PARLAMENTARE SUL MELONELLUM A QUESTO PUNTO SAREBBE LA SCUSA PERFETTA PER LA DUCETTA PER PROVARE AD ANDARE AL VOTO A INIZIO 2027 (MATTARELLA PERMETTENDO): PRENDEREBBE IN CONTROPIEDE IL CAMPO LARGO, CHE AL MOMENTO È SENZA LEADER E SENZA UNO STRACCIO DI PROGRAMMA, EVITEREBBE D DOVER AFFRONTARE MESI ECONOMICAMENTE DA INCUBO PER NOI POVERI CITTADINI, TRA INFLAZIONE E CRISI ENERGETICA, E BLOCCHEREBBE L’ASCESA DI ROBERTO VANNACCI – SENZA DIMENTICARE LA COMMISSIONE UE NON PIÙ DISPOSTA A TENDERE UNA MANO AI PATRIOTI TRICOLORE, MENTRE L’ONDA NERA TRAVOLGE L’EUROPA…

onorato renzi de luca manfredi

DAGOREPORT! FERMI TUTTI! VINCENZO DE LUCA SCENDE IN CAMPO: VENERDI’ PROSSIMO APRE LA LEOPOLDA INSIEME A RENZI. MATTEO LO VUOLE FRONTMAN DEL SUO PARTITO: “SOLO DI VOTO DI OPINIONE, CI PORTA IN DOPPIA CIFRA”. LO "SCERIFFO" E’ TENTATO, ANCHE PER SBARRARE ALL’ODIATO MANFREDI LA STRADA VERSO LA RIBALTA NAZIONALE. NON SOLO: IL SINDACO DI NAPOLI E’ LA PUNTA DI DIAMANTE DEL PARTITO DI ONORATO, NEMICO GIURATO DI RENZI. SAREBBE UNA BREZZA FRIZZANTINA PER L’ATTUALE CAMPO LARGO E LA SUA ATMOSFERA DA CAMPOSANTO…