hacker intelligenza artificiale

FORSE CI DOBBIAMO PREOCCUPARE: L'IA STA IMPARANDO AD HACKERARE I SISTEMI INFORMATICI - IN INGHILTERRA, L'ISTITUTO PER LA SICUREZZA DELL'INTELLIGENZA ARTIFICIALE HA TESTATO I BOT DI OPENAI E ANTHROPIC CHIEDENDO LORO DI "RISOLVERE UN PROBLEMA DI SICUREZZA INFORMATICA" CHE COINVOLGEVA LA PIATTAFORMA "GITHUB" - GLI ESPERTI HANNO SCOPERTO CHE L'IA AVEVA INTRAPRESO ATTIVITÀ DANNOSE RIVOLTE A PERSONE E ORGANIZZAZIONI REALI -  I TEST HANNO PORTATO ALL'INDIVIDUAZIONE DI 19 AZIONI NON AUTORIZZATE: IL SOFTWARE DI ANTHROPIC HA IMITATO UN HACKER UMANO CERCANDO DI INDURRE LE PERSONE A CONCEDERGLI L'ACCESSO...

Titti Santamato per l'ANSA

 

HACKER INTELLIGENZA ARTIFICIALE

Creare profili falsi per ingannare le vittime e sferrare attacchi informatici come comuni hacker del mondo reale. Un nuovo caso di vulnerabilità fa riflettere sullo sviluppo degli agenti di intelligenza artificiale, software che a differenza dei normali chatbot sono in grado di agire in autonomia, la nuova realtà del settore in rapida espansione. A scoprirla è stata l'AI Security Institute (Aisi) del Regno Unito che ha condotto dei test sui sistemi dei due big rivali, OpenAI e Anthropic, che già a luglio hanno registrato episodi simili. 

 

HACKER INTELLIGENZA ARTIFICIALE

"L'attività svolta ha mostrato segni di comportamenti inediti e potenzialmente ingannevoli, di portata e gravità impreviste", ha dichiarato l'Aisi, l'organizzazione sostenuta dallo Stato e dedicata alla valutazione di modelli di intelligenza artificiale avanzati sotto il profilo dei rischi per la sicurezza nazionale. "L'Aisi è stato istituito per renderne più sicuro l'utilizzo dell'IA e garantire che le persone possano continuare a trarne beneficio nella vita quotidiana e sul lavoro", ha sottolineato Kanishka Narayan, ministro per l'IA del nuovo governo di Andy Burnham.   

 

HACKER INTELLIGENZA ARTIFICIALE

I test dell'Aisi sono iniziati il 25 luglio e le vulnerabilità sono state individuate il 28 luglio. L'istituto ha chiesto ad agenti basati su Mythos 5 di Anthropic e GPT-5.6-Sol di OpenAI di "risolvere una sfida di sicurezza informatica" che coinvolgeva GitHub, una piattaforma online di proprietà di Microsoft molto usata dagli sviluppatori. I ricercatori hanno inizialmente rilevato "trasferimenti di dati insoliti in uscita dai sistemi di ricerca" per poi scoprire che "alcuni degli agenti avevano intrapreso attività prolungate e potenzialmente dannose rivolte a persone e organizzazioni reali".   

 

Hacker

In particolare i test hanno portato all'individuazione di 19 azioni non autorizzate nel corso di 10 sessioni. L'agente di Anthropic è stato responsabile di 17 di queste azioni, mentre quello di OpenAI delle restanti due. Nel caso più grave, un agente Mythos ha imitato il modus operandi di un hacker umano cercando di indurre le persone a concedergli l'accesso a GitHub inserendo un "codice malevolo" grazie alla creazione di serie di account falsi basati su persone reali e l'invio di messaggi per indurre gli utenti con l'inganno.

 

HACKER - VIOLAZIONE DI SERVER

Nel corso di questi tentativi, è stata la revisione umana a impedire all'agente di riuscire a distribuire il codice malevolo su GitHub. L'istituto ha però specificato di aver spinto un po' al limite i modelli per i test, disattivando alcuni filtri che bloccavano comportamenti pericolosi.   

 

L'Aisi ha informato Github che ha disattivato gli account falsi. Anthropic ha spiegato che i parametri di prova dell'istituto "non sono rappresentativi di nessuno dei nostri modelli di produzione" e ha aggiunto che sta conducendo una propria indagine sull'incidente per "individuare le cause del suo comportamento". Sulla falsariga, un portavoce di OpenAI ha sottolineato che le condizioni di test "non rispecchiano l'uso ordinario" e che l'azienda "continuerà a collaborare con i valutatori e le altre parti interessate per rafforzare le pratiche condivise volte a condurre valutazioni in sicurezza".   

cyber attacchi

 

L'incidente fa seguito a recenti episodi analoghi. A metà luglio, OpenAI ha reso noto che un agente basato sui propri modelli ha violato una startup di intelligenza artificiale nel corso di un test; pochi giorni dopo, Anthropic ha riferito che il suo modello Claude aveva violato tre organizzazioni durante una fase di valutazione. Entrambe le società si stanno preparando per lo sbarco a Wall Street.

Ultimi Dagoreport

vetrine rotte maranza giorgia meloni youssef siher

DAGOREPORT - A GUARDARE I TIGGÌ RAI, E LEGGERE I GIORNALONI PRO-MELONI, CON IL FERMO DI YOUSSEF SIHER L’ITALIA HA RISOLTO TUTTI I SUOI PROBLEMI! I “MARANZA” SONO FREGATI, LE PIAZZE TORNERANNO PACIFICHE! OVVIAMENTE È UNO SPECCHIETTO PER GLI ALLOCCONI: IL NOME DI SIHER ERA NEL CASSETTO DEI SERVIZI DA TEMPO, E LA SENSAZIONE È CHE SIA STATO TIRATO FUORI DI PROPOSITO COME CAPRONE ESPIATORIO PER ALIMENTARE LA NARRAZIONE DI “ASSEDIO” CHE FA COMODO ALLA DUCETTA (COME SUCCESSO CON LE PROTESTE DEI TIR AL SUD “NASCOSTE” PER DARE SPAZIO ALLE VETRINE SPACCATE DAI TEPPISTELLI DI SECONDA GENERAZIONE) – LA DESTRA “ORDINE E SICUREZZA” È AL GOVERNO DA QUATTRO ANNI, AVREBBE DOVUTO PREVENIRE GLI SCONTRI DI MILANO, NON INTERVENIRE A VETRINE SFASCIATE  - SORGI: “SE NON VOGLIAMO RITROVARCI COME LA FRANCIA CON LE SUE PERIFERIE INGOVERNABILI, BISOGNA CHE ACCANTO ALLA MACCHINA DELL'ORDINE PUBBLICO SE NE MUOVA UN'ALTRA CAPACE DI INTERVENIRE NELLA SOCIETÀ PER AFFRONTARE LA GRANDE CRISI SOCIALE...”

cateno de luca luigi marattin sindaci d italia giorgia meloni

DAGOREPORT – MARATTIN S-CATENATO! IL DEPUTATO EX RENZIANO POTREBBE APPRODARE NEL CENTRODESTRA ATTRAVERSO IL MOVIMENTO DI CATENO DE LUCA, EVITANDO COSI’ DI DOVER RACCOGLIERE SEIMILA FIRME A COLLEGIO PER PRESENTARSI ALLE PROSSIME ELEZIONI – L’INCONTRO TRA MARATTIN E DE LUCA IN UN RISTORANTE DI ROMA NORD – GIORGIA MELONI DOVREBBE ESSERE PRESENTE ALLA CONVENTION DELLA PROSSIMA SETTIMANA DI “NORD CHIAMA SUD”, CHE CAMBIERA’ NOME E SIMBOLO: DIVENTERÀ “SINDACI D’ITALIA”, PER FARE CONCORRENZA AL MOVIMENTO CIVICO DI ALESSANDRO ONORATO –  “SCATENO” È PRONTO AD ACCOGLIERE ANCHE I LEGHISTI NON “BLINDATI” DA SALVINI – VERSO UNA LISTA UNICA FORZA ITALIA-NOI MODERATI. LA MELONI “TIFA” TAJANI, CONSIDERATO PIU’ AFFIDABILE DI OCCHIUTO…

marine le pen giorgia meloni vannacci

DAGOREPORT - GIORGIA D'ARABIA, PRIMA DI DECOLLARE PER IL SUO BLITZ IN KUWAIT (A CACCIA DI PETROLIO, GAS E INVESTIMENTI), AVREBBE ANNUNCIATO AI "FRATELLINI" DELLA FIAMMA: SI VOTA A MAGGIO! - RINGALLUZZITA DAI DECRETINI SICUREZZA E DAL PUGNO DI FERRO CONTRO I MARANZELLI IN RIVOLTA, RASSICURATA DAI SONDAGGISTI "AMICI" CHE DANNO FDI AL 29% E IMPANTANATA LA MARCIA SU ROMA DI ROBERTO VANNACCI, ALLA DUCETTA NON CONVIENE ASSOLUTAMENTE DI STARE TROPPO CON LE MANI IN MANO - IL VOTO IN ESTATE È ESCLUSO: CON LE VACANZE CHE DIVENTANO UN MIRAGGIO E IL PORTAFOGLI VUOTO, MEJO EVITARE - PEGGIO ANCORA LE URNE A OTTOBRE, CON UNA FINANZIARIA DAVANTI - INOLTRE, BISOGNA SCHIVARE CHE L'INTERNAZIONALE PUTINISTA BY LE PEN-AFD SI PRENDA L'EUROPA - LA NUOVA ATTITUDINE SECURITARIA CHE HA PORTATO MELONI A FARE L'ENDORSEMENT ALL'AMAZZONE LEGHISTA SILVIA SARDONE A MILANO... - VIDEO!

mentana cairo

FLASH – PRENDETE I POPCORN: IL 9 NOVEMBRE CI SARÀ LA RESA DEI CONTI FINALE TRA URBANO CAIRO E ENRICO MENTANA – IL PROPRIETARIO DI LA7 E IL COMPAGNO DI FRANCESCA FAGNANI TROVERANNO L’ACCORDO, COME FANNO OGNI ANNO DOPO IL SOLITO TEATRINO DI CHICCO, OPPURE QUESTA VOLTA SANCIRANNO IL LORO DIVORZIO UNA VOLTA PER TUTTE? MENTANA CI È ANDATO GIÙ DURO IN DIVERSE OCCASIONI, DOGLIANDOSI A DOGLIANI DEL RADICAL-SINISTRISMO DELLA RETE: “È UNA TV ANTI-MELONI”. NON AVENDO TROVATO UNA POLTRONA ALTERNATIVA, FINIRÀ ANCHE STAVOLTA A TARALLUCCI E VINO?

carlo messina giorgia meloni

DAGOREPORT - GIORGIA MELONI NON SE LO ASPETTAVA DI FINIRE SBATTUTA COME UN UOVO DA CARLO MESSINA - DAVANTI ALLA RICHIESTA PER ULTERIORI 5 MILIARDI DI EURO A CARICO DEL SETTORE DEL CREDITO E ASSICURATIVO PER SOSTENERE LA MALCONCIA LEGGE DI BILANCIO 2027, IL CEO DI BANCA INTESA NON L’HA TOCCATA PIANO: “AVEVAMO UN ACCORDO TRIENNALE CON IL GOVERNO, IO CI HO CREDUTO” – LO SDENG DEL KAPPAO: "SE L’ESECUTIVO GIUDICA NECESSARIO RACCOGLIERE RISORSE AGGIUNTIVE PER LA MANOVRA, “ALLORA TUTTE LE AZIENDE CHE HANNO UTILI SUPERIORI A 500 MILIONI, POTRANNO CONTRIBUIRE” - BEN DETTO, CARLETTO: PERCHÉ PALAZZO CHIGI NON BATTE CASSA A ENEL, ENI, POSTE, FERRARI, LAMBORGHINI, LEONARDO, ETC.? INSOMMA, CARA GIORGIA, “DEVE ESSERCI RISPETTO RECIPROCO” - MICA È FINITA. MESSINA NON DEVE AVER DIMENTICATO NÉ TANTOMENO GRADITO L’INTERVENTO A PIEDI GIUNTI DELLA DUCETTA CONTRO LO SPEZZATINO DI MPS PROGETTATO DA INTESA - MA ORMAI L’UNICO OSTACOLO DI INTESA SI CHIAMA ANTITRUST. ANCHE SE MESSINA NON LA FINISCE DI SOTTOLINEARE CHE L’ACQUISIZIONE DELLA QUOTA DI GENERALI VA VISTA IN ‘’UN’OTTICA PURAMENTE FINANZIARIA’’, PRONTO ANCHE A DISFARSI DEL SUO 3,1% DEL LEONE, SARÀ L’ANTITRUST A DECIDERE SE INTESA, ANCHE COME ‘’SOCIO SILENTE” CHE STA FUORI DAL CONSIGLIO DI AMMINISTRAZIONE, CON LA SUA PRESENZA PUÒ ‘’CONDIZIONARE’’ O MENO IL SUO COMPETITOR NUMERO UNO DEL MERCATO ASSICURATIVO...