hacker intelligenza artificiale

FORSE CI DOBBIAMO PREOCCUPARE: L'IA STA IMPARANDO AD HACKERARE I SISTEMI INFORMATICI - IN INGHILTERRA, L'ISTITUTO PER LA SICUREZZA DELL'INTELLIGENZA ARTIFICIALE HA TESTATO I BOT DI OPENAI E ANTHROPIC CHIEDENDO LORO DI "RISOLVERE UN PROBLEMA DI SICUREZZA INFORMATICA" CHE COINVOLGEVA LA PIATTAFORMA "GITHUB" - GLI ESPERTI HANNO SCOPERTO CHE L'IA AVEVA INTRAPRESO ATTIVITÀ DANNOSE RIVOLTE A PERSONE E ORGANIZZAZIONI REALI -  I TEST HANNO PORTATO ALL'INDIVIDUAZIONE DI 19 AZIONI NON AUTORIZZATE: IL SOFTWARE DI ANTHROPIC HA IMITATO UN HACKER UMANO CERCANDO DI INDURRE LE PERSONE A CONCEDERGLI L'ACCESSO...

Titti Santamato per l'ANSA

 

HACKER INTELLIGENZA ARTIFICIALE

Creare profili falsi per ingannare le vittime e sferrare attacchi informatici come comuni hacker del mondo reale. Un nuovo caso di vulnerabilità fa riflettere sullo sviluppo degli agenti di intelligenza artificiale, software che a differenza dei normali chatbot sono in grado di agire in autonomia, la nuova realtà del settore in rapida espansione. A scoprirla è stata l'AI Security Institute (Aisi) del Regno Unito che ha condotto dei test sui sistemi dei due big rivali, OpenAI e Anthropic, che già a luglio hanno registrato episodi simili. 

 

HACKER INTELLIGENZA ARTIFICIALE

"L'attività svolta ha mostrato segni di comportamenti inediti e potenzialmente ingannevoli, di portata e gravità impreviste", ha dichiarato l'Aisi, l'organizzazione sostenuta dallo Stato e dedicata alla valutazione di modelli di intelligenza artificiale avanzati sotto il profilo dei rischi per la sicurezza nazionale. "L'Aisi è stato istituito per renderne più sicuro l'utilizzo dell'IA e garantire che le persone possano continuare a trarne beneficio nella vita quotidiana e sul lavoro", ha sottolineato Kanishka Narayan, ministro per l'IA del nuovo governo di Andy Burnham.   

 

HACKER INTELLIGENZA ARTIFICIALE

I test dell'Aisi sono iniziati il 25 luglio e le vulnerabilità sono state individuate il 28 luglio. L'istituto ha chiesto ad agenti basati su Mythos 5 di Anthropic e GPT-5.6-Sol di OpenAI di "risolvere una sfida di sicurezza informatica" che coinvolgeva GitHub, una piattaforma online di proprietà di Microsoft molto usata dagli sviluppatori. I ricercatori hanno inizialmente rilevato "trasferimenti di dati insoliti in uscita dai sistemi di ricerca" per poi scoprire che "alcuni degli agenti avevano intrapreso attività prolungate e potenzialmente dannose rivolte a persone e organizzazioni reali".   

 

Hacker

In particolare i test hanno portato all'individuazione di 19 azioni non autorizzate nel corso di 10 sessioni. L'agente di Anthropic è stato responsabile di 17 di queste azioni, mentre quello di OpenAI delle restanti due. Nel caso più grave, un agente Mythos ha imitato il modus operandi di un hacker umano cercando di indurre le persone a concedergli l'accesso a GitHub inserendo un "codice malevolo" grazie alla creazione di serie di account falsi basati su persone reali e l'invio di messaggi per indurre gli utenti con l'inganno.

 

HACKER - VIOLAZIONE DI SERVER

Nel corso di questi tentativi, è stata la revisione umana a impedire all'agente di riuscire a distribuire il codice malevolo su GitHub. L'istituto ha però specificato di aver spinto un po' al limite i modelli per i test, disattivando alcuni filtri che bloccavano comportamenti pericolosi.   

 

L'Aisi ha informato Github che ha disattivato gli account falsi. Anthropic ha spiegato che i parametri di prova dell'istituto "non sono rappresentativi di nessuno dei nostri modelli di produzione" e ha aggiunto che sta conducendo una propria indagine sull'incidente per "individuare le cause del suo comportamento". Sulla falsariga, un portavoce di OpenAI ha sottolineato che le condizioni di test "non rispecchiano l'uso ordinario" e che l'azienda "continuerà a collaborare con i valutatori e le altre parti interessate per rafforzare le pratiche condivise volte a condurre valutazioni in sicurezza".   

cyber attacchi

 

L'incidente fa seguito a recenti episodi analoghi. A metà luglio, OpenAI ha reso noto che un agente basato sui propri modelli ha violato una startup di intelligenza artificiale nel corso di un test; pochi giorni dopo, Anthropic ha riferito che il suo modello Claude aveva violato tre organizzazioni durante una fase di valutazione. Entrambe le società si stanno preparando per lo sbarco a Wall Street.

Ultimi Dagoreport

sigfrido ranucci valter lavitola giampaolo rossi

DAGOREPORT - MARTEDÌ PROSSIMO CALERÀ IL SIPARIO SU RANUCCI: A OTTOBRE, QUANDO RITORNERÀ IN ONDA “REPORT”, L’AMICO FRATERNO” DI WALTERINO LAVITOLA NON SARÀ PIÙ ALLA CONDUZIONE - IN SEGUITO ALLE VERIFICHE INTERNE (“AUDIT) SUL RISPETTO DEL CODICE ETICO DELLA RAI E IN ATTESA DELLE DECISIONI DEGLI INQUIRENTI E DEI MAGISTRATI SULLA MA-LAVITOLA ALLE VONGOLE SGUSCIATE, L'AMMINISTRATORE DELEGATO GIAMPAOLO ROSSI COMUNICHERÀ A RANUCCI IL CAMBIO DI CONDUZIONE (SOSTITUZIONE CHE È NEL PIENO DIRITTO DELLE PROCEDURE AZIENDALI) - QUINDI, A DISPETTO DI QUANTO PIÙ VOLTE SCRITTO, IL DIPENDENTE RAI RANUCCI SIGFRIDO NON VERRÀ ASSOLUTAMENTE “SOSPESO” DAL RUOLO DI VICE-DIRETTORE DI RAI3, IL SUO STIPENDIO CORRERÀ TRANQUILLO COME OGNI MESE, MA VERRÀ SPOSTATO DAL RESPONSABILE DEI PROGRAMMI DI APPROFONDIMENTO, PAOLO CORSINI, AD ALTRI IMPORTANTI INCARICHI - FINE DEL PRIMO TEMPO....

giorgia meloni e primo ministro etiope abiy ahmed sem fabrizi

DAGOREPORT – COME SI È ARRIVATI AL CLAMOROSO SCAZZO DIPLOMATICO CON L’ETIOPIA? BISOGNA TORNARE AL 2024, QUANDO IL PREMIER DI ADDIS ABEBA, ABIY AHMED, AIUTA GIORGIA MELONI A CONVINCERE L’UNIONE AFRICANA A FIRMARE IL PIANO MATTEI. GLI ALTRI LEADER DEL CONTINENTE NERO ERANO SCETTICI (EUFEMISMO) E AHMED TIRA FUORI DAL CILINDRO IL COINVOLGIMENTO DELL’UE – SOLO CHE IL GOVERNO ETIOPE SI ASPETTAVA QUALCHE “VANTAGGIO” CHE, EVIDENTEMENTE, NON È ARRIVATO. RISULTATO? LA “RITORSIONE” CONTRO SEM FABRIZI, OTTIMO AMBASCIATORE, CHE DOPO DIECI MESI È STATO RICHIAMATO IN ITALIA PER EVITARE L’UMILIAZIONE DI ESSERE DICHIARATO “PERSONA NON GRATA"

ceuta migranti spagna francia pedro sanchez giorgia meloni emmanuel macron

FLASH – IN POCHI SOTTOLINEANO QUALI SONO GLI UNICI DUE GRANDI PAESI DELL’UE A NON ACCODARSI AI “RESPINGIMENTI” DEI DUBLINANTI VERSO L’ITALIA: FRANCIA E SPAGNA – MACRON E SANCHEZ SE LA RIDONO DI FRONTE ALLE DIFFICOLTÀ DI GIORGIA MELONI, E MOSTRANO ORGOGLIOSAMENTE MA SENZA PUBBLICIZZARLA LA LORO POSIZIONE: NOI SIAMO PER L’ACCOGLIENZA, NON RIMANDIAMO INDIETRO NESSUNO, ANCHE SE POTREMMO. UNA MOSSA POLITICA CHE MANDA FUORI GIRI GLI OTOLITI DELLA “SIRENETTA DEL COLLE OPPIO”

giorgia meloni antonio tajani matteo salvini

DAGOREPORT – I FRANCHI-TIRATORI PER IL “MELONELLUM” INIZIANO A ESSERE TANTI, FORSE TROPPI – SE LA LEGA VA DRITTA VERSO LA RESA DEI CONTI, ANCHE FORZA ITALIA È IN TUMULTO - DOPO LA “FRONDA” DELLE DONNE, GUIDATE DALLA BERLUSCHINA DEBORAH BERGAMINI, SU PREFERENZE E PARITÀ DI GENERE, ORA È IL MINISTRO DELLA PUBBLICA AMMINISTRAZIONE, PAOLO ZANGRILLO, A INCAZZARSI CON TAJANI PER IL MANCATO COINVOLGIMENTO NELL’INIZIATIVA ANTI-BUROCRAZIA DEL PARTITO – IL GUAIO PIÙ GROSSO PER LA DUCETTA, PERÒ, RESTA QUEL CARTOCCIO DEL CARROCCIO: CON IL 6% CHE GLI ATTRIBUISCONO I SONDAGGI (DI CUI QUASI LA METÀ “CONTROLLATO” DAI GOVERNATORI DEL NORD), LE TRUPPE DEL PARTITO DI SALVINI SI SGONFIERANNO. DEGLI ATTUALI 95 TRA DEPUTATI E SENATORI, E SARÀ UN MIRACOLO SE RESTERANNO UNA TRENTINA - IN CASO DI VITTORIA DEL CENTROSINISTRA, LA SITUAZIONE POTREBBE ESSERE ANCORA PEGGIORE: DUE LEGHISTI SU TRE RISCHIANO DI NON ESSERE RIELETTI - CHISSA' COSA SUCCEDERA' A SETTEMBRE, QUANDO ALLA CAMERA I DEPUTATI DI LEGA E DI FORZA ITALIA (MA ANCHE FRANGE DI FDI) SARANNO CHIAMATI A VOTARE (CON SCRUTINIO SEGRETO) LA NUOVA LEGGE ELETTORALE, UNICA RIFORMA RIMASTA IN PIEDI DEL GOVERNO MELONI....

meloni schlein lovaglio messina donnet

DAGOREPORT – A FERRAGOSTO UN COLPO DI “SOLE” CI STA. FIRMATO DAL DIRETTORE DEL QUOTIDIANO DELLA CONFINDUSTRIA, FABIO TAMBURINI ANNUNCIA CHE PER CONTRASTARE L’OPAS DI INTESA SU MPS NELLA MENTE DI LUIGI LOVAGLIO FRULLEREBBERO NON UNA, MA ADDIRITTURA DUE OPS (OFFERTA PUBBLICA DI SCAMBIO). UNA PER PRENDERE IL CONTROLLO SUL BANCO BPM E L’ALTRA PER ACQUISIRE BANCA GENERALI – NON FINISCE QUI: IN BALLO CI SAREBBE ANCHE LA POSSIBILE VENDITA DEL 13,2% DI GENERALI POSSEDUTO DA MEDIOBANCA, VERO OBIETTIVO DEL RISIKONE BANCARIO – A INGARBUGLIARE LA PARTITA, SI È AGGIUNTA LA PRESA DI DISTANZA DALL’OPAS DI INTESA, LA “BANCA DI SISTEMA” GUIDATA DA CARLO MESSINA, DA PARTE DEL POTERE POLITICO AL COMPLETO, CON MELONI E SCHLEIN PER UNA VOLTA SULLO STESSO FRONTE – ‘STA MEGA-OPERAZIONE DELL’IRRIDUCIBILE LOVAGLIO, CHE DOVREBBE ESSERE ANNUNCIATA NEL CDA DI MPS CONVOCATO PER DOMANI, PUÒ AVERE TANTI VARIABILI DA SCHEDINA: 1-2-X – IN TALE LABIRINTO DI SPECCHI, C’È UN ‘’CONVITATO DI PIETRA’’ CHE TUTTI NOTANO MA CHE NESSUNO NOMINA: IL CEO DI GENERALI, PHILIPPE DONNET, CHE OVVIAMENTE NON FA SALTI DI GIOIA AL PENSIERO DELLA POSSIBILE ACQUISIZIONE VIA OPAS SU MPS DI BANCA INTESA DEL 13,2% DEL COLOSSO ASSICURATIVO…

classifica universita shanghai ranking consultancy politecnico milano torino corgnati donatella sciuto

DAGOREPORT – LE LUSINGHE ALLA CINA NON RI-PAGANO – LE UNIVERSITA’ ITALIANE, IN PARTICOLARE I POLITECNICI DI MILANO E TORINO, HANNO STRETTO DA ANNI CONVENZIONI CON GLI ATENEI CINESI PER SCAMBI DI STUDENTI (PIUTTOSTO ASINI) E DOCENTI, CON APERTURE DI SEDI E PROGRAMMI DI RICERCA COMUNI (TANTO GLI STIPENDI LI PAGA LO STATO) – MA LA CINA NON RICAMBIA TANTO AFFETTO: NELLA CLASSIFICA DELLE UNIVERSITA’ PIU’ PRESTIGIOSE PUBBLICATA DALL’ORGANIZZAZIONE “SHANGHAI RANKING CONSULTANCY” I NOSTRI ATENEI LI VEDI CON IL BINOCOLO! PER IL POLITECNICO DI MILANO, IL PIU’ ATTIVO CON LA CINA, DEVI ARRIVARE AL TRECENTESIMO POSTO...