dario amodei anthropic

I MODELLI DI INTELLIGENZA ARTIFICIALE DI ANTHROPIC HANNO "OTTENUTO UN ACCESSO NON AUTORIZZATO" AI SISTEMI DI TRE ORGANIZZAZIONI DURANTE UN TEST CHE AVREBBE DOVUTO TENERLI ISOLATI DAL "MONDO REALE" – E’ UNA SITUAZIONE SIMILE A QUELLA ACCADUTA A OPENAI. POCHI GIORNI FA, INFATTI, LA RIVALE GUIDATA DA SAM ALTMAN HA RIVELATO CHE I PROPRI MODELLI AVEVANO AVUTO ACCESSO IMPROPRIO A INTERNET E AVEVANO AGITO IN MODO IMPREVISTO DURANTE I TEST DI SICUREZZA – IN QUESTO CASO PERO’ ANTHROPIC AVEVA POSTO UNA SFIDA ALL’IA PER VALUTARE LE SUE CAPACITÀ INFORMATICHE E IL MODELLO HA OPERATO SENZA LE CONSUETE MISURE DI SICUREZZA PUR DI RAGGIUNGERE L’OBIETTIVO…

ANTHROPIC, 'ACCESSO NON AUTORIZZATO' NOSTRA AI AL MONDO REALE NEI TEST

Avrebbero dovuto restare isolati, l'episodio è simile a quello accaduto a OpenAI

IL MODELLO DI ANTHROPIC CLAUDE MYTHOS

(ANSA) - PECHINO, 31 LUG - I modelli di intelligenza artificiale di Anthropic hanno "ottenuto un accesso non autorizzato" ai sistemi di tre organizzazioni durante la fase dei test che avrebbero dovuto tenerli isolati dal "mondo reale". Lo ha riferito la compagnia, dando conto di una situazione simile a quella accaduta a OpenAI. Pochi giorni fa, infatti, la rivale guidata da Sam Altman ha rivelato che i propri modelli avevano avuto accesso improprio a Internet e avevano agito in modo imprevisto durante i test di sicurezza.

 

IL MODELLO DI ANTHROPIC CLAUDE MYTHOS

In un post sul blog di giovedì sera (la notte di venerdì in Italia), Anthropic ha detto di aver esaminato oltre 141.000 valutazioni di Claude, individuando tre casi in cui un modello ha avuto accesso a Internet mentre si trovava all'interno o interagiva con un ambiente di test isolato, ospitato da un partner terzo, Irregular. Da lì, il modello di IA ha "ottenuto un accesso non autorizzato all'infrastruttura di produzione di tre diverse organizzazioni", ha affermato l'azienda.   

 

Gli incidenti hanno coinvolto tre diverse versioni di Claude: Opus 4.7, Mythos e un modello sperimentale per la ricerca su Internet privo di nome specifico. Sono riusciti a uscire dall'ambiente di test a causa di un "malinteso" tra l'azienda e il partner incaricato della valutazione, il quale aveva reso possibile l'accesso a Internet per i modelli stessi.   

dario amodei

 

La situazione, da questo punto di vista, è diversa dall'incidente di OpenAI, in cui due modelli avevano sfruttato una vulnerabilità sconosciuta in un software di terze parti per accedere a Internet senza intervento umano.

 

Nel caso di Anthropic, al modello era stata assegnata una sfida di tipo "capture-the-flag" (cattura la bandiera), usata dall'azienda per valutare le capacità informatiche del modello, a cui viene presentato uno scenario fittizio: la "bandiera" si trova su una macchina diversa della rete, alla quale deve accedere per recuperarla.

 

"La sfida è a esito aperto e non viene prescritto alcun metodo specifico", ha precisato Anthropic.    Analogamente a quanto accaduto a OpenAI, i modelli di Anthropic hanno operato senza le consuete misure di sicurezza: incidenti che confermano gli avvertimenti lanciati da anni dalla comunità tecnologica sulle crescenti capacità e ai potenziali rischi dell'intelligenza artificiale.

Ultimi Dagoreport

roberto vannacci elly schlein giorgia meloni legge elettorale ballottaggio

DAGOREPORT! LA NUOVA LEGGE ELETTORALE È INCOSTITUZIONALE? MONTA IL DIBATTITO CON 160 COSTITUZIONALISTI CHE ANDRANNO AVANTI CON I RICORSI ALLA CORTE COSTITUZIONALE - LA SCOMMESSA DELLA MELONI: UNA VOLTA APPROVATA LA LEGGE, ANDARE AL VOTO A MAGGIO PER EVITARE IL GIUDIZIO DI INCOSTITUZIONALITA' DELLA CONSULTA – LA PROTESTA DEL CIVICO ONORATO SULLE FIRME RICHIESTE PER PRESENTARE LE LISTE (6MILA PER OGNI COLLEGIO): UNA NORMA CHE IN REALTA’ FA COMODO A FORZA ITALIA E NOI MODERATI IN FUNZIONE ANTI-ONORATO MA ANCHE ALLA SINISTRA, CHE SI METTEREBBE AL RIPARO DALLE NUOVE CREATURE POLITICHE (TIPO GRILLO) – VANNACCI AL 99% NON DOVREBBE AVER BISOGNO DI RACCOGLIERE LE 6MILA FIRME - L’ABNORME PREMIO DI MAGGIORANZA PER CHI ARRIVA AL 42%: NON NE PARLA NESSUNO NEL PD PERCHE’ FA COMODO ANCHE A SCHLEIN…

elly schlein giuseppe conte dario franceschini

DAGOREPORT - CONTRORDINE, COMPAGNI, LE PRIMARIE SI FARANNO INDIPENDENTEMENTE DALLA LEGGE ELETTORALE! CONTE HA DATO UN AUT AUT AGLI ALLEATI DEL CAMPO LARGO METTENDO I GAZEBO COME “CONDICIO SINE QUA NON” PER ESSERE NELL'ALLEANZA CON IL PD – MA LE PRIMARIE, OLTRE A ESSERE DIVISIVE, SONO UN GRAN CASINO SUL FRONTE REGOLAMENTARE: SARANNO APERTE O CHIUSE? CI SARA’ IL VOTO ONLINE? E PREVEDERANNO UN BALLOTTAGGIO? - PER ELLY, CHE TREMA PERCHÉ CONTE CON LA POSIZIONE SULL’UCRAINA DRENA VOTI AL PD SCESO AL 20%, I GAZEBO SONO DIVENTATI UN PROBLEMA ANCHE ALL’INTERNO DEL PARTITO (AL PUNTO CHE NON HA POTUTO CONCEDERE L’ENDORSEMENT A MARIO CALABRESI, CANDIDATOSI A SINDACO DI MILANO, PERCHÉ HA PAURA DI PERDERE I VOTI DI PIERFRANCESCO MAJORINO). COSI’ PER BLINDARSI E’ COSTRETTA A STRINGERE ACCORDI CON RENZI, FRANCESCHINI E ALTRI CAPATAZ DEM. MA NON ERA LEI CHE DICEVA “NON VOGLIAMO PIÙ CAPIBASTONE E CACICCHI?”

giorgia meloni tommaso longobardi giovanbattista fazzolari gian marco chiocci filini

DAGOREPORT - COME MAI GIORGIA MELONI HA FATTO “ROTOLARE LA TESTA” DEL SUO STRATEGA SOCIAL, TOMMASO LONGOBARDI? A POCHI MESI DALLE ELEZIONI, CON I SONDAGGI CHE DANNO IL CAMPO LARGO IN VANTAGGIO E VANNACCI CHE SCIPPA CONSENSI A DESTRA, LA DUCETTA SI È ACCORTA CHE LA PROPAGANDA DI PALAZZO CHIGI NON FUNZIONA PIÙ – LONGOBARDI ERA GIÀ FINITO NEL MIRINO DEL “CERCHIO TRAGICO” DELLA SORA GIORGIA DOPO LA DISFATTA AL REFERENDUM SULLA GIUSTIZIA, DOVE ERANO STATI DECISIVI I VOTI DEGLI ELETTORI PIÙ GIOVANI PER IL “NO” – ORA LA DUCETTA VUOLE UNA SVOLTA NELLA COMUNICAZIONE DEL GOVERNO E RICICCIA L’IDEA DI ASSOLDARE COME PORTAVOCE IL DIRETTORE DEL TG1, GIAN MARCO CHIOCCI. PICCOLO PARTICOLARE: CHIOCCI, FIN TROPPO AUTONOMO ED ESPERTO, SAREBBE UN “ACQUISTO” INDIGESTO PER FAZZOLARI E FILINI, IL DUO CHE GESTISCE LA MACCHINA COMUNICATIVA DI FDI – SI VOCIFERA CHE PALAZZO CHIGI PENSI A GINO ZAVALANI, VOLTO DI ESPERIA, PER RILANCIARE I SOCIAL – LA PRECISAZIONE DI ZAVALANI

giorgia meloni antonio tajani maurizio lupi alessandro onorato giuseppe conte matteo renzi roberto vannacci ignazio la russa

DAGOREPORT! - GIORGIA MELONI HA PAURA DI TORNARE ALLE URNE E VUOLE UNA NUOVA LEGGE ELETTORALE CHE AZZOPPI GLI AVVERSARI, A PARTIRE DALL’EMENDAMENTO “AMMAZZA-CESPUGLI” SULLA RACCOLTA DELLE FIRME - IL BLITZ E' UTILE A TAJANI, CESA E LUPI PER FERMARE ONORATO CHE POTREBBE ROSICCHIARE VOTI A FORZA ITALIA, UDC E NOI MODERATI - L'APPOGGIO DI CONTE ALL'ASSESSORE DI ROMA SEMBRA UN "BACIO DELLA MORTE": "PROGETTO CIVICO" STA DIVENTANDO "PROGETTO PEPPINIELLO"? - GLI OCCHI DEGLI ADDETTI AI LAVORI SULLE ELEZIONI SUPPLETIVE DI REGGIO CALABRIA PER IL SEGGIO ALLA CAMERA: VUOI VEDERE CHE IL CANDIDATO DI VANNACCI TOGLIERA' VOTI AL CENTRODESTRA E FARA' VINCERE IL PD?

vecchione renzi ranucci sgrena mancini draghi conte gabrielli carlo parolisi

TRA LE PIEGHE DELL’AFFAIRE LAVITOLA-RANUCCI, RICICCIA UNO DEI TANTI MISTERI ALL’ITALIANA: IL FAMOSO SERVIZIO DI ‘’REPORT’’ DEL MAGGIO 2021 SULL’INCONTRO IN AUTOGRILL TRA MATTEO RENZI E MARCO MANCINI, UNO DELLE FIGURE PIÙ CONTROVERSE DELL’INTELLIGENCE ITALIANA - ALL’ORIGINE DEL RENDEZ-VOUS AUTOSTRADALE, FORSE C’ENTRA DI PIÙ IL FATTO CHE STAVA CADENDO IL SECONDO GOVERNO CONTE, A CAUSA DEL RITIRO DALL'ESECUTIVO DI ITALIA VIVA. QUALCUNO DEVE AVER SCOMMESSO SULLE DOTI AFFABULATORIE DI NEGOZIATORE DI MANCINI PER CONVINCERE RENZI A TROVARE UNA QUADRA PER MANTENERE IN PIEDI CONTE – UNA VOLTA CHE LA MISSIONE E' ANDATA A VUOTO, PERCHE' RANUCCI MANDO' IN ONDA IL SERVIZIO RENZI-MANCINI BEN CINQUE MESI DOPO LA SEPOLTURA DEL GOVERNO CONTE II? A CHI GIOVAVA? - BEN SAPENDO DI QUANTO MANCINI SIA DETESTATO DAI SUOI COLLEGHI, RENZI DEFINI' LO SCOOP UN "REGOLAMENTO DI CONTI INTERNO AI SERVIZI SEGRETI" – GLI ''ADDETTI AI LIVORI'' AGGIUNGONO ALTRE DUE IPOTESI: CHI PARTENDO DAL BURRASCOSO RAPPORTO TRA RENZI E RANUCCI, CHI CONSIDERANDO LA VOGLIA DI CONTE DI REGOLARE I CONTI CON COLUI CHE SI VANTA DI AVERLO SLOGGIATO DA PALAZZO CHIGI E DI AVER CONVINTO DRAGHI A PRENDERE IL SUO POSTO… 

meloni salvini tajani

DAGOREPORT – CON UN PARTITO IN DISCESA LIBERA E SEMPRE PIU' SPAPPOLATO DAI "LEGHISTI DEL NORD", NESSUNO, NEMMENO IL SUO "IDEOLOGO" E FUTURO SUOCERO DENIS VERDINI, RIESCE A FAR RAGIONARE MATTEO SALVINI - L’ULTIMA DELLE TANTE USCITE FUORI DI SINAPSI DEL "BOLLITO LOMBARDO'' SAREBBE AVVENUTA NEI GIORNI SCORSI, L'IPOTESI DI FDI DI VOTO CON BALLOTTAGGIO, L'AVREBBE TALMENTE "ALTERATO" DA CHIAMARE GIORGIA MELONI, SBRAITANDO: “TOLGO LA FIDUCIA AL GOVERNO!” - E DOMENICA 20 SETTEMBRE, A PONTIDA, POTREBBE SUCCEDERE DI TUTTO, SE SALVINI NON TROVA UN ACCORDO CON LA FRONDA CAPEGGIATA DA FONTANA E ROMEO – ALLA LEGA DEL CAOS, LA ''PREMIER DURACELL'' DEVE AGGIUNGERE LO STATO DI GUERRIGLIA IN FORZA ITALIA, DOVE IL “MAGGIORDOMO DI CASA MELONI", ANTONIO TAJANI , GIACE NEL TRITACARNE DEGLI OCCHIUTO, ZANGRILLO, MULÈ, ETC. – MA SE LA DUCETTA RICOMPATTA GLI ALLEATI E SFANGA LA LEGGE ELETTORALE, POTREBBE ARRIVARE LA DISCESA: L’ITALIA HA OTTIME PROBABILITÀ DI USCIRE DALLO STATO DI INFRAZIONE DEL 3%. E CON UNO SPOSTAMENTO DI BILANCIO NELLA FINANZIARIA, GIORGIA SI TRAVESTIRÀ DA BEFANA E CI INONDERÀ DI BALOCCHI E PROFUMI...