ALTMAN? ALT! – OPENAI SOSPENDE L’ADDESTRAMENTO DEI SUOI MODELLI DI INTELLIGENZA ARTIFICIALE PIÙ AVANZATI DOPO I MOLTISSIMI INCIDENTI CHE HANNO COINVOLTO I “BOT” DELL’AZIENDA DI SAM ALTMAN - PER AXIOS, GLI ESPERTI INFORMATICI HANNO RISCONTRATO DECINE MIGLIAIA DI “ANOMALIE” COMMESSE DAI PROGRAMMI DI OPENAI E DI ANTHROPIC CHE HANNO AGITO AUTONOMAMENTI PER AGGIRARE I CONTROLLI DI SICUREZZA O PER USCIRE DAGLI AMBIENTI DI PROVA PROTETTI –TRA LE “VITTIME” DEGLI ATTACCHI, CI SAREBBERO ANCHE DEI SITI DEL GOVERNO AMERICANO…
Estratto dell’articolo di Sandra Riccio per “la Stampa”
I colossi dell'intelligenza artificiale tirano il freno a mano. OpenAI ha sospeso l'addestramento dei propri modelli più avanzati per arginare le azioni autonome e non autorizzate dei software. «Riprenderemo l'addestramento solo quando saremo certi di disporre di ulteriori misure di sicurezza», precisa la società.
La mossa, drastica, arriva mentre un'inchiesta di Axios svela i contorni di una vulnerabilità sistemica. OpenAI, Anthropic e gli esperti di settore indagano su decine di migliaia di episodi in cui i modelli hanno eluso i controlli. […]
OPENAI - MODELLI DI INTELLIGENZA ARTIFICIALE
Il blocco dei server segna la seconda frenata in tre mesi per l'azienda di Sam Altman. Le rivelazioni diffuse da Axios, del resto, delineano uno scenario inedito. Le fonti descrivono innumerevoli anomalie avvenute negli ultimi mesi tra i test interni e il mondo reale.
I sistemi tentano di eludere i monitoraggi e di fuggire dalle sandbox, i recinti isolati di prova. I casi comprendono violazioni con gradi di gravità differenti, tra tentativi di bypassare le garanzie progettate per mantenere i software sicuri. Sebbene non si contino danni concreti, il numero dei casi supera di gran lunga le decine di migliaia. […]
La pausa operativa segue un'estate di incidenti sui portali del governo statunitense. Sui siti del Dipartimento dell'Istruzione gli agenti hanno individuato chiavi di sviluppo Api per i database. Secondo Transluce si è trattato di un tentato attacco informatico, ipotesi non confermata da OpenAI.
Un copione simile ha coinvolto la Securities and Exchange Commission. L'intelligenza artificiale ha estratto informazioni pubbliche per ripubblicarle in rete. Una condotta circoscritta dal portavoce Sec Kurt Hopfenspirger, il quale assicura che «non è stato effettuato alcun accesso a informazioni riservate». Il livello di allerta impone cautela. […]
