pericoli dell intelligenza artificiale openai sam altman dario amodei anthropic

ETICA E COTICA – QUEI PARA-GURU DELL’INTELLIGENZA ARTIFICIALE CONTINUANO A EVOCARE I RISCHI DELLE LORO TECNOLOGIE, CHE POSSONO SVILUPPARE CAPACITÀ IMPREVISTE E ARRIVARE A MANIPOLARE DATI PER AUTOPRESERVARSI ED EVITARE CORREZIONI – MA È UNA PRESA DI COSCIENZA O SOLO UNA TATTICA PER POMPARE LE LORO AZIENDE? IERI ANTHROPIC HA DEDICATO 80 DELLE 261 PAGINE DEL PROSPETTO PER LA QUOTAZIONE SUI PERICOLI DELL’IA, AGGIUNGENDO DI AVER CORRETTO I PROBLEMI – ANCHE OPENAI HA DICHIARATO DI AVER RINVIATO IL LANCIO DI GPT-6.1 ASTRA DOPO CHE I TEST HANNO MOSTRATO DIFFICOLTÀ NEL RISPETTARE I LIMITI IMPOSTI DAGLI UTENTI…

Estratto dell’articolo di Giuditta Mosca per "la Repubblica"

 

DARIO AMODEI

Anthropic mette le mani avanti. In previsione della prossima quotazione in borsa, 80 delle 261 pagine del prospetto per gli investitori sono dedicate ai fattori di rischio dei suoi modelli di intelligenza artificiale, con avvertimenti circa la pericolosità degli algoritmi e l'incapacità di mettere a punto sistemi in grado di individuare i rischi e scongiurarli.

 

Il tema non è soltanto teorico. In uno studio del 2025, per esempio, l'azienda fondata da Dario Amodei aveva condotto un esperimento in laboratorio nel quale un programmatore tentava di spegnere un modello IA. A quest'ultimo erano state date anche informazioni compromettenti circa lo sviluppatore.

 

Durante la simulazione, l'IA aveva "minacciato" di utilizzare quelle stesse informazioni per evitare di essere spento. Ora Anthropic afferma di avere corretto il problema nei nuovi modelli, sottolineando comunque che eliminare le vulnerabilità conosciute non garantisce l'assenza di altre falle.

 

L'azienda ha quindi segnalato che i propri modelli possono mostrare comportamenti di autopreservazione, nascondendo o manipolando dati per opporsi a un'eventuale correzione. E avverte che le sue IA possono sviluppare capacità non previste durante l'addestramento e potenzialmente pericolose per la cybersecurity o per sistemi informatici critici.

Sam Altman Open AI

 

[…] Anche sul fronte del principale concorrente di Anthropic, cioè OpenAI, ci sono delle novità. Ieri è stata la giornata dedicata agli sviluppatori dove sono stati annunciati nuovi prodotti. Da segnalare un modello economico e veloce per competere con le IA cinesi, da sempre low-cost, e gli agenti Dots, cioè quei software capaci di svolgere compiti senza la supervisione umana. L'azienda di Sam Altman ha inoltre dichiarato che uno dei suoi modelli più noti – ChatGpt – viene utilizzato ogni settimana da più di 1,2 miliardi di persone in tutto il mondo.

 

Tornando al tema caldo dei controlli, però, sempre ieri la stessa OpenAI ha fatto slittare a data da destinarsi il lancio del suo modello più performante – Gpt-6.1 Astra – dopo che alcune prove interne hanno evidenziato difficoltà nel rispettare i limiti imposti dagli utenti e nel descrivere con precisione le azioni compiute. […]

evasione di chatgptDario AmodeiOpenAI ChatGpt OPENAI - MODELLI DI INTELLIGENZA ARTIFICIALEDario Amodeidario amodei

Ultimi Dagoreport

cateno de luca luigi marattin sindaci d italia giorgia meloni

DAGOREPORT – MARATTIN S-CATENATO! IL DEPUTATO EX RENZIANO POTREBBE APPRODARE NEL CENTRODESTRA ATTRAVERSO IL MOVIMENTO DI CATENO DE LUCA, EVITANDO COSI’ DI DOVER RACCOGLIERE SEIMILA FIRME A COLLEGIO PER PRESENTARSI ALLE PROSSIME ELEZIONI – L’INCONTRO TRA MARATTIN E DE LUCA IN UN RISTORANTE DI ROMA NORD – GIORGIA MELONI DOVREBBE ESSERE PRESENTE ALLA CONVENTION DELLA PROSSIMA SETTIMANA DI “NORD CHIAMA SUD”, CHE CAMBIERA’ NOME E SIMBOLO: DIVENTERÀ “SINDACI D’ITALIA”, PER FARE CONCORRENZA AL MOVIMENTO CIVICO DI ALESSANDRO ONORATO –  “SCATENO” È PRONTO AD ACCOGLIERE ANCHE I LEGHISTI NON “BLINDATI” DA SALVINI – VERSO UNA LISTA UNICA FORZA ITALIA-NOI MODERATI. LA MELONI “TIFA” TAJANI, CONSIDERATO PIU’ AFFIDABILE DI OCCHIUTO…

marine le pen giorgia meloni vannacci

DAGOREPORT - GIORGIA D'ARABIA, PRIMA DI DECOLLARE PER IL SUO BLITZ IN KUWAIT (A CACCIA DI PETROLIO, GAS E INVESTIMENTI), AVREBBE ANNUNCIATO AI "FRATELLINI" DELLA FIAMMA: SI VOTA A MAGGIO! - RINGALLUZZITA DAI DECRETINI SICUREZZA E DAL PUGNO DI FERRO CONTRO I MARANZELLI IN RIVOLTA, RASSICURATA DAI SONDAGGISTI "AMICI" CHE DANNO FDI AL 29% E IMPANTANATA LA MARCIA SU ROMA DI ROBERTO VANNACCI, ALLA DUCETTA NON CONVIENE ASSOLUTAMENTE DI STARE TROPPO CON LE MANI IN MANO - IL VOTO IN ESTATE È ESCLUSO: CON LE VACANZE CHE DIVENTANO UN MIRAGGIO E IL PORTAFOGLI VUOTO, MEJO EVITARE - PEGGIO ANCORA LE URNE A OTTOBRE, CON UNA FINANZIARIA DAVANTI - INOLTRE, BISOGNA SCHIVARE CHE L'INTERNAZIONALE PUTINISTA BY LE PEN-AFD SI PRENDA L'EUROPA - LA NUOVA ATTITUDINE SECURITARIA CHE HA PORTATO MELONI A FARE L'ENDORSEMENT ALL'AMAZZONE LEGHISTA SILVIA SARDONE A MILANO... - VIDEO!

mentana cairo

FLASH – PRENDETE I POPCORN: IL 9 NOVEMBRE CI SARÀ LA RESA DEI CONTI FINALE TRA URBANO CAIRO E ENRICO MENTANA – IL PROPRIETARIO DI LA7 E IL COMPAGNO DI FRANCESCA FAGNANI TROVERANNO L’ACCORDO, COME FANNO OGNI ANNO DOPO IL SOLITO TEATRINO DI CHICCO, OPPURE QUESTA VOLTA SANCIRANNO IL LORO DIVORZIO UNA VOLTA PER TUTTE? MENTANA CI È ANDATO GIÙ DURO IN DIVERSE OCCASIONI, DOGLIANDOSI A DOGLIANI DEL RADICAL-SINISTRISMO DELLA RETE: “È UNA TV ANTI-MELONI”. NON AVENDO TROVATO UNA POLTRONA ALTERNATIVA, FINIRÀ ANCHE STAVOLTA A TARALLUCCI E VINO?

carlo messina giorgia meloni

DAGOREPORT - GIORGIA MELONI NON SE LO ASPETTAVA DI FINIRE SBATTUTA COME UN UOVO DA CARLO MESSINA - DAVANTI ALLA RICHIESTA PER ULTERIORI 5 MILIARDI DI EURO A CARICO DEL SETTORE DEL CREDITO E ASSICURATIVO PER SOSTENERE LA MALCONCIA LEGGE DI BILANCIO 2027, IL CEO DI BANCA INTESA NON L’HA TOCCATA PIANO: “AVEVAMO UN ACCORDO TRIENNALE CON IL GOVERNO, IO CI HO CREDUTO” – LO SDENG DEL KAPPAO: "SE L’ESECUTIVO GIUDICA NECESSARIO RACCOGLIERE RISORSE AGGIUNTIVE PER LA MANOVRA, “ALLORA TUTTE LE AZIENDE CHE HANNO UTILI SUPERIORI A 500 MILIONI, POTRANNO CONTRIBUIRE” - BEN DETTO, CARLETTO: PERCHÉ PALAZZO CHIGI NON BATTE CASSA A ENEL, ENI, POSTE, FERRARI, LAMBORGHINI, LEONARDO, ETC.? INSOMMA, CARA GIORGIA, “DEVE ESSERCI RISPETTO RECIPROCO” - MICA È FINITA. MESSINA NON DEVE AVER DIMENTICATO NÉ TANTOMENO GRADITO L’INTERVENTO A PIEDI GIUNTI DELLA DUCETTA CONTRO LO SPEZZATINO DI MPS PROGETTATO DA INTESA - MA ORMAI L’UNICO OSTACOLO DI INTESA SI CHIAMA ANTITRUST. ANCHE SE MESSINA NON LA FINISCE DI SOTTOLINEARE CHE L’ACQUISIZIONE DELLA QUOTA DI GENERALI VA VISTA IN ‘’UN’OTTICA PURAMENTE FINANZIARIA’’, PRONTO ANCHE A DISFARSI DEL SUO 3,1% DEL LEONE, SARÀ L’ANTITRUST A DECIDERE SE INTESA, ANCHE COME ‘’SOCIO SILENTE” CHE STA FUORI DAL CONSIGLIO DI AMMINISTRAZIONE, CON LA SUA PRESENZA PUÒ ‘’CONDIZIONARE’’ O MENO IL SUO COMPETITOR NUMERO UNO DEL MERCATO ASSICURATIVO...

matteo salvini giorgia meloni autotrasportatori

QUANDO NON SANNO CHE FARE, A DESTRA LA BUTTANO IN CACIARA – IL GOVERNO HA SCELTO DI ATTACCARE GLI AUTOTRASPORTATORI CHE PROTESTANO AL SUD EVOCANDO LE INFILTRAZIONI DELLA CRIMINALITÀ ORGANIZZATA, CON IL SOLITO TIC DI PREGIUDIZIO ANTI-MERIDIONALE - UNA PARABOLA RIDICOLA PER GIORGIA MELONI E MATTEO SALVINI, DUE PROFESSIONISTI DELLA PROTESTA, QUANDO ERANO ALL’OPPOSIZIONE. DUE PROTAGONISTI POLITICI CHE HANNO FATTO DELLA PROPAGANDA URLATALA LORO CIFRA POLITICA E DI COMUNICAZIONE, FINO A QUANDO SI SONO RITROVATI AL GOVERNO – LA DUCETTA AVREBBE FATTO MEGLIO AD ANDARE AL VOTO SUBITO: I NODI STANNO VENENDO AL PETTINE E SARÀ UN AUTUNNO DI FUOCO