Logo Dagospia
hacker intelligenza artificiale

FORSE CI DOBBIAMO PREOCCUPARE: L'IA STA IMPARANDO AD HACKERARE I SISTEMI INFORMATICI - IN INGHILTERRA, L'ISTITUTO PER LA SICUREZZA DELL'INTELLIGENZA ARTIFICIALE HA TESTATO I BOT DI OPENAI E ANTHROPIC CHIEDENDO LORO DI "RISOLVERE UN PROBLEMA DI SICUREZZA INFORMATICA" CHE COINVOLGEVA LA PIATTAFORMA "GITHUB" - GLI ESPERTI HANNO SCOPERTO CHE L'IA AVEVA INTRAPRESO ATTIVITÀ DANNOSE RIVOLTE A PERSONE E ORGANIZZAZIONI REALI -  I TEST HANNO PORTATO ALL'INDIVIDUAZIONE DI 19 AZIONI NON AUTORIZZATE: IL SOFTWARE DI ANTHROPIC HA IMITATO UN HACKER UMANO CERCANDO DI INDURRE LE PERSONE A CONCEDERGLI L'ACCESSO...

Titti Santamato per l'ANSA

 

HACKER INTELLIGENZA ARTIFICIALE

Creare profili falsi per ingannare le vittime e sferrare attacchi informatici come comuni hacker del mondo reale. Un nuovo caso di vulnerabilità fa riflettere sullo sviluppo degli agenti di intelligenza artificiale, software che a differenza dei normali chatbot sono in grado di agire in autonomia, la nuova realtà del settore in rapida espansione. A scoprirla è stata l'AI Security Institute (Aisi) del Regno Unito che ha condotto dei test sui sistemi dei due big rivali, OpenAI e Anthropic, che già a luglio hanno registrato episodi simili. 

 

HACKER INTELLIGENZA ARTIFICIALE

"L'attività svolta ha mostrato segni di comportamenti inediti e potenzialmente ingannevoli, di portata e gravità impreviste", ha dichiarato l'Aisi, l'organizzazione sostenuta dallo Stato e dedicata alla valutazione di modelli di intelligenza artificiale avanzati sotto il profilo dei rischi per la sicurezza nazionale. "L'Aisi è stato istituito per renderne più sicuro l'utilizzo dell'IA e garantire che le persone possano continuare a trarne beneficio nella vita quotidiana e sul lavoro", ha sottolineato Kanishka Narayan, ministro per l'IA del nuovo governo di Andy Burnham.   

 

HACKER INTELLIGENZA ARTIFICIALE

I test dell'Aisi sono iniziati il 25 luglio e le vulnerabilità sono state individuate il 28 luglio. L'istituto ha chiesto ad agenti basati su Mythos 5 di Anthropic e GPT-5.6-Sol di OpenAI di "risolvere una sfida di sicurezza informatica" che coinvolgeva GitHub, una piattaforma online di proprietà di Microsoft molto usata dagli sviluppatori. I ricercatori hanno inizialmente rilevato "trasferimenti di dati insoliti in uscita dai sistemi di ricerca" per poi scoprire che "alcuni degli agenti avevano intrapreso attività prolungate e potenzialmente dannose rivolte a persone e organizzazioni reali".   

 

Hacker

In particolare i test hanno portato all'individuazione di 19 azioni non autorizzate nel corso di 10 sessioni. L'agente di Anthropic è stato responsabile di 17 di queste azioni, mentre quello di OpenAI delle restanti due. Nel caso più grave, un agente Mythos ha imitato il modus operandi di un hacker umano cercando di indurre le persone a concedergli l'accesso a GitHub inserendo un "codice malevolo" grazie alla creazione di serie di account falsi basati su persone reali e l'invio di messaggi per indurre gli utenti con l'inganno.

 

HACKER - VIOLAZIONE DI SERVER

Nel corso di questi tentativi, è stata la revisione umana a impedire all'agente di riuscire a distribuire il codice malevolo su GitHub. L'istituto ha però specificato di aver spinto un po' al limite i modelli per i test, disattivando alcuni filtri che bloccavano comportamenti pericolosi.   

 

L'Aisi ha informato Github che ha disattivato gli account falsi. Anthropic ha spiegato che i parametri di prova dell'istituto "non sono rappresentativi di nessuno dei nostri modelli di produzione" e ha aggiunto che sta conducendo una propria indagine sull'incidente per "individuare le cause del suo comportamento". Sulla falsariga, un portavoce di OpenAI ha sottolineato che le condizioni di test "non rispecchiano l'uso ordinario" e che l'azienda "continuerà a collaborare con i valutatori e le altre parti interessate per rafforzare le pratiche condivise volte a condurre valutazioni in sicurezza".   

cyber attacchi

 

L'incidente fa seguito a recenti episodi analoghi. A metà luglio, OpenAI ha reso noto che un agente basato sui propri modelli ha violato una startup di intelligenza artificiale nel corso di un test; pochi giorni dopo, Anthropic ha riferito che il suo modello Claude aveva violato tre organizzazioni durante una fase di valutazione. Entrambe le società si stanno preparando per lo sbarco a Wall Street.

Ultimi Dagoreport

giuseppe conte vladimir putin marco travaglio elly schlein beppe grillo

DAGOREPORT – CARO CONTE... MA PERCHÉ NON TE NE VAI A FARE IN CULO?! - NEL PARTITO DEMOCRATICO CRESCE UNA FRONDA SOTTERRANEA DI CHI VUOLE MOLLARE PEPPINIELLO AL SUO DESTINO DI “RAS-PUTIN” – AL NAZARENO, NONOSTANTE LA LINEA “TESTARDAMENTE UNITARIA” (SENZA M5S NON SI VINCE) DI ELLY SCHLEIN, MOLTI VORREBBERO ANDARE A VEDERE IL BLUFF DELL’EX PREMIER: SE VUOLE INTESTARDIRSI SU POSIZIONI FILO-RUSSE E ANTI-EUROPEE (NO AL FONDO SAFE PER LA DIFESA), FACCIA PURE, MA SAPPIA CHE ANDARE DA SOLO AL VOTO NON CONVIENE AL M5S NE' ALLA SUA OSSESSIONE DI TORNARE A PALAZZO CHIGI (CONTE METTERÀ SEMPRE IL VETO A CHIUNQUE NON SI CHIAMI CONTE) - A CONDIZIONARE IL LEADER M5S NON È DI DI BATTISTA, MA LA LINEA INTRANSIGENTE DI TRAVAGLIO, VERO IDEOLOGO DELLA GALASSIA PENTASTELLATA - LE CHIAMATE DI BEPPE GRILLO AI PIDDINI PER SABOTARE IL "CAMALEONTE CON LA POCHETTE'' - AMORALE DELLA FAVA: ORA CHE L'ARMATA BRANCA-MELONI È PRONTA A PERDERE, IL CENTROSINISTRA NON È PRONTO A VINCERE. 'STO "CAMPO LARGO" A PALAZZO CHIGI DIVENTA CAMPO SANTO IN SEI MESI... - VIDEO
generali philippe donnet luigi lovaglio carlo messina

DAGOREPORT - LE ULTIME SPERANZE DELL’IRRIDUCIBILE LUIGI LOVAGLIO DI SALVARE MPS DALL’OPAS DI INTESA SONO APPESE ALLA FUSIONE CON MEDIOBANCA, CHE INGLOBEREBBE L’OGGETTO DEL DESIDERIO DI TUTTI I PROTAGONISTI DEL RISIKONE: IL 13% DI GENERALI - OLTRE ALLA DELFIN DI MILLERI, A DAGOSPIA RISULTA IN GRAN MOVIMENTO IL CEO DEL LEONE DI TRIESTE, PHILIPPE DONNET, PRESSO I FONDI DI INVESTIMENTO, COME GIÀ SUCCESSE CON LA RESURREZIONE DI LOVAGLIO PER SBARRARE LA STRADA A CALTAGIRONE - SE FALLISSE LA FUSIONE MPS-MEDIOBANCA, A PIAZZA AFFARI C’È CHI IPOTIZZA UN’OPA SU PIAZZETTA CUCCIA, CHI CONGETTURA OPERAZIONI CHE COINVOLGEREBBERO BANCA GENERALI - UNA COSA È CERTA: PIÙ SI ANDRÀ AVANTI E PIÙ L’ASTICELLA DEL RISIKO SI IMPENNERÀ, PERCHÉ SOCI E GRANDI FONDI DOVRANNO SCEGLIERE: MESSINA O DONNET? BANCA INTESA CHE PRENDE LA LEVA DI COMANDO DI GENERALI (SALVO PROBLEMI CON L'ANTITRUST) O TRASFORMARE IL LEONE DI TRIESTE IN UNA VERA PUBLIC-COMPANY?
giuseppe conte donald trump mario draghi joe biden sergio mattarella matteo renzi gennaro vecchione william barr

DAGOREPORT – LA STORIA MAI RACCONTATA DELL'''ASTIO SPUMANTE'' DI GIUSEPPE CONTE VERSO MARIO DRAGHI - IL "TRASFORMISMO DAL VOLTO UMANO" NON HA MAI METABOLIZZATO LA CACCIATA DA PALAZZO CHIGI DEL 2021, DETRONIZZATO DA "SUPERMARIO" PER LA GIOIA DI ANGELA MERKEL, CONTRARIA A FAR GESTIRE I 200 MILIARDI DEL PNRR AL POPULISMO 5STELLE - I TWEET D'AMORE DI TRUMP A "GIUSEPPI" CHE PORTO' IL PREMIER CONTE AD AUTORIZZARE L'INSOSTENIBILE INCONTRO A ROMA DEI VERTICI DEI SERVIZI SEGRETI CON IL MINISTRO DELLA GIUSTIZIA DEGLI STATI UNITI, A CACCIA DI "MAIL IMBARAZZANTI SU HILLARY CLINTON IN POSSESSO DEI RUSSI" - DESTINO VOLLE CHE DOPO SEI GIORNI DAL GIURAMENTO DI BIDEN, LA FAVOLA DI "GIUSEPPI" FINI' ED INIZIO' LA VENDETTA CONTRO "DRAGHI, L'USURPATORE" (OGGI, A PAGARNE LE CONSEGUENZE, E' L'EX SOTTOSEGRETARIO DEL GOVERNO DI "MARIOPIO", FRANCO GABRIELLI) - VIDEO
la repubblica urbano cairo enrico mentana stefano cappellini theodore kyriakou

DAGOREPORT - SI ACCAVALLANO LE VOCI SUL CORTEGGIAMENTO A ENRICO MENTANA DELL’EDITORE DI ‘’REPUBBLICA’’, THEO KYRIAKOU, CHE INTENDE LANCIARE UNA RETE ALL NEWS-CNN, DIRETTA DAL CONDUTTORE DEL TG LA7 - S’AVANZA ANCHE L’IPOTESI DI UN ''DOPPIO MENTANA'': TV E DIRETTORE EDITORIALE DI “REPUBBLICA” - COSÌ IL MAGNATE GRECO SALVEREBBE CAPRA E CAPPELLINI (ALL’80% CONFERMATO ALLA DIREZIONE) - TRA MENTANA E IL PROPRIETARIO DI "ANTENNA GROUP", CI SAREBBE IL MACIGNO DELLA CLAUSOLA DI NON CONCORRENZA CHE RISCHIA DI TENERLO LONTANO DA UN ALTRO INCARICO PER UN ANNO E MEZZO - CHICCO DICE CHE QUESTA CLAUSOLA “NON C’È” - BENE, SE ‘’NON C’È’’, ALLORA NON SI COMPRENDE LA STIZZA RABBIOSA DELLA SUA LETTERA INVIATA AL “FOGLIO”, CONTRO L’EDITORE DE LA7, URBANETTO CAIRO… - VIDEO