intelligenza artificiale robot androidi

VATTI A FIDARE DELL’INTELLIGENZA ARTIFICIALE – PER RENDERE I MODELLI DI IA PIÙ SICURI, I BOT DOVRANNO FARE “AUTOANALISI”: NE È CONVINTA OPENAI – L’AZIENDA DI SAM ALTMAN VUOLE CHE SIANO GLI STESSI SOFTWARE A SPIEGARE I PASSAGGI LOGICI CHE SEGUONO PER RISPONDERE ALLE DOMANDE DEGLI UTENTI. IN QUESTO MODO, I RICERCATORI POTRANNO INDIVIDUARE COMPORTAMENTI ANOMALI PRIMA CHE PROVOCHINO INCIDENTI – EMERGONO NUOVI DETTAGLI SUGLI AGENTI IA “FUORI CONTROLLO” CHE SONO RIUSCITI A VIOLARE I BLOCCHI DI SICUREZZA: OPENAI SE N’E’ ACCORTA DOPO 15 MINUTI, MA IL BLOCCO AUTOMATICO NON HA FUNZIONATO E SONO SERVITE DUE ORE E MEZZA PER SPEGNERLO MANUALMENTE…

1 - LE IA IMPARANO A FARE AUTOANALISI, È LA CHIAVE PER RENDERLE PIÙ SICURE

intelligenza artificiale 2

(ANSA) - Far raccontare alla stessa Intelligenza Artificiale i passi logici che segue: è questo lo strumento chiave per monitorare e rendere più sicure le IA sempre più protagoniste di incidenti, come il recente accesso alle banche dati della sanità pubblica australiana. A spiegare sul sito della rivista Nature la tecnica di monitoraggio detta 'catena di pensiero', o chain of thought, è Mark Chen, capo della ricerca di OpenAI.

 

"Il monitoraggio dei processi interni di un modello da parte di altri modelli rappresenta oggi il modo più efficace per garantirne la sicurezza e l'allineamento", ha detto Chen, spiegando l'importanza della chain of thought per aumentare la sicurezza e soprattutto la comprensione dei passi logici che adottano le IA quando lavorano.

 

Una sorta di autoanalisi che viene richiesta in modo sempre più approfondito alle AI in modo da permettere ai ricercatori di migliorarne la comprensione e sviluppare così nuovi metodi più efficaci per evitare nuovi incidenti.

PERICOLI DELL INTELLIGENZA ARTIFICIALE

 

"E' una linea che OpenAI e altre aziende del settore stanno perseguendo già da tempo e permette di osservare il dialogo interno della macchina prima che arrivi alla risposta definitiva", ha detto all'ANSA Marcello Restelli, esperto di computer science al Politecnico di Milano.

 

 "Perché capire come una IA giunga a una conclusione è la chiave per valutarne la spiegabilità, ossia capirne i meccanismi profondi, e l'affidabilità", ha aggiunto Restelli. Strumenti adottati e pubblicizzati in particolare per evitare il ripetersi dei vari incidenti che in questi mesi hanno visto le IA protagoniste di azioni nel mondo digitale che hanno destato grandi preoccupazioni, ad esempio nell'attacco effettuato all'interno di Huggin face, una delle più importanti piattaforme usata dagli sviluppatori.

 

"E' però anche importante sottolineare che tutti questi incidenti sono capitati in contesti di test di laboratorio", ha sottolineato Restelli.

 

chatbot ChatGPT

"In questi casi però ci sono state delle 'falle' nel definire le aree di test e le IA hanno trovato una possibilità di collegarsi all'esterno. Possiamo immaginare questi test - ha concluso Restelli - come una pista automobilistica dove si vuole mettere alla prova, lontano dal traffico reale, delle auto a guida autonoma. Il rischio è che se si lascia però un cancello aperto c'è la possibilità, e così è avvenuto, che l'auto esca fuori e vada così nel mondo reale".

 

2 - OPENAI HA IMPIEGATO 2 ORE E MEZZA PER FERMARE UNA IA SFUGGITA AL SUO CONTROLLO

(ANSA) - OpenAI ha reso noti i dettagli di un sistema di intelligenza artificiale che ha violato i suoi controlli di sicurezza. Un agente, il 20 settembre, è riuscito a collegarsi autonomamente a rete internet nonostante le istruzioni lo vietassero.

SAM ALTMAN - OPENAI

 

L'azienda ha confermato l'episodio in un documento ufficiale, evidenziando alcune falle nei propri protocolli di sicurezza ma anche i tempi ristretti in cui l'IA è stata scoperta e fermata. I controlli di OpenAI hanno infatti rilevato l'attività sospetta in quindici minuti e un tecnico ha lanciato subito l'allarme. Il meccanismo di blocco automatico, però, non ha funzionato. Il programma è stato spento manualmente solo dopo due ore e mezza.

 

Il software aveva il compito di cercare informazioni su una persona. Poiché gli strumenti chiusi a sua disposizione non bastavano per completare il lavoro, il sistema ha cercato soluzioni alternative, trovando un punto debole nella struttura della rete interna, in particolare in quella che gestisce gli indirizzi web. Attraverso questa falla, l'intelligenza artificiale si è connessa a un programma esterno online per farsi aiutare nella ricerca.

 

opeani evasione

    "Il nostro scenario di sicurezza presupponeva che il modello non potesse accedere a internet in tempo reale", si legge nel documento ufficiale di OpenAI. "L'incidente ha evidenziato una falla nei nostri controlli sulle restrizioni di rete. Abbiamo quindi interrotto l'esecuzione dell'addestramento e deciso di sospendere tutte le altre attività, fino a quando non avremo verificato che la problematica è stata risolta ed effettuato ulteriori test di sicurezza".

 

intelligenza artificiale 1

    Il tempo di due ore e mezza, intercorso tra la scoperta e l'effettivo blocco dell'agente, secondo OpenAI stato causato da un insieme di errori tecnici e da incertezze del personale su come intervenire.

OPENAI - MODELLI DI INTELLIGENZA ARTIFICIALEOpenAI ChatGpt

 

Ultimi Dagoreport

elly schlein giuseppe conte

DAGOREPORT – DAJE E RIDAJE, CON CONTE IN MODALITÀ VENTRILOQUO DI TRAVAGLIO, CON I SONDAGGI CHE SPROFONDANO UN PD SUBALTERNO AL M5S SOTTO IL 20%, CON IL CAMPO LARGO RIDOTTO A UNO SPETTACOLO SEMPRE PIÙ UMILIANTE E GROTTESCO, ELLY AVRÀ PENSATO CHE ERA GIUNTA L'ORA DI FINIRLA: CARO GIUSEPPE, HA ROTTO IL CAZZO CON 'STE PROVOCAZIONI QUOTIDIANE SU EUROPA E UCRAINA, E SEMPRE CON QUEL TONETTO DA "PICCOLA, TORNA A PETTINARE LE BAMBOLE". ORA LA MISURA È COLMA: VEDIAMO CHI CE L'HA PIÙ LUNGO: “NEL PROGRAMMA UNO NON VALE UNO, IL PD HA IL DOPPIO DEI VOTI” - MA LA GOCCIA CHE HA FATTO TRABOCCARE I NEURONI DI SCHLEIN FUORI DALLE SINAPSI È STATA LA DICHIARAZIONE DELL'AZZECCAGARBUGLI STELLATO: “ERO A FAVORE DI UN FEDERATORE NEL CENTROSINISTRA, MA MI È STATO DETTO DI NO”. UNA FRASETTA CHE HA STIZZITO OVVIAMENTE ELLY (MANCO NOMINATA), MA ANCHE GLI ESPONENTI DI SPICCO DEL VERTICE DEL M5S (IN PRIMIS, PATUANELLI), I QUALI DI UN EVENTUALE "TERZO UOMO" NON NE AVEVANO MAI SENTITO PARLARE - STASERA CONTE HA REPLICATO AL TURBO-VAFFA SPARATO DA ELLY FARFUGLIANDO LA SOLITA SUPERCAZZOLA CON SCAPPELLAMENTO NEL VUOTO DEI GAZEBO: "A QUESTO PUNTO NON CI SONO ALTERNATIVE ALLE PRIMARIE" (E LA GIOSTRA RICOMINCIA...) - VIDEO

sicilia toto cuffaro renato schifani gaetano armao geremia lombardo elvira amata gaetano galvagno

DAGOREPORT – IL TINTINNIO DI MANETTE FA TREMARE IL CENTRODESTRA SICILIANO IN VISTA DELLE ELEZIONI REGIONALI DEL 2027 – LA RICHIESTA DI ARRESTO PER L’EX VICEPRESIDENTE DELLA REGIONE, GAETANO ARMAO, MARITO DELL’EX “ZARINA” GIUSI BARTOLOZZI, ACCUSATO DI CORRUZIONE, HA FATTO SCALPORE. MA LE ANTENNE DI DAGOSPIA IN SICILIA CI SEGNALANO CHE IL NOME PIÙ “PESANTE”, IN TERMINI POLITICI, TRA I NOVE COINVOLTI NELL’INCHIESTA È QUELLO DI GEREMIA LOMBARDO, NIPOTE DELL’EX GOVERNATORE RAFFAELE - LOMBARDO È DEPUTATO DELL’MPA E PRESIDENTE DELL’UFFICIO DI QUESTURA DELL’ASSEMBLEA REGIONALE, DA DOVE PASSANO LE DECISIONI SULLE SPESE – I GUAI GIUDIZIARI DEL CENTRODESTRA NELL'ISOLA NON RISPARMIANO FDI: SONO A PROCESSO PER CORRUZIONE L’ASSESSORE AL TURISMO, ELVIRA AMATA, E IL PRESIDENTE DELL’ARS GAETANO GALVAGNO – E ORMAI È FUORI DAI GIOCHI ANCHE TOTO’ CUFFARO...

report sigfrido ranucci giorgio mottola italo bocchino valter lavitola giorgia meloni - giampaolo rossi

DAGO-“REPORT” - MA LA RAI ALLA FIAMMA VUOLE VERAMENTE LIBERARSI DEL “SINISTRO” SIGFRIDO RANUCCI? – MESSO ALLO SPIEDO DA ANNI PER LE INCHIESTE DI “REPORT”, UNIDIREZIONALI CONTRO LA DESTRA DI GOVERNO, COME MAI L’AD DI TELE-MELONI, GIAMPAOLO ROSSI, NEL 2024 HA MANTENUTO NEL RUOLO DI VICEDIRETTORE AD PERSONAM L'''AMICO FRATERNO'' DI LAVITOLA? - MAGARI ROSSI NON VUOLE ESSERE ACCUSATO DI AVER EPURATO "IL PIÙ IMPORTANTE GIORNALISTA D'INCHIESTA DELLA TV PUBBLICA", BENCHE' SIA FINITO NEL VERMINAIO DEL PESCIVENDOLO DEL “CEFALÙ BISTROT’’? – SERPEGGIANO ALTRI RUMORS: ROSSI POTREBBE AVER RICEVUTO DIKTAT DA ALTRI PALAZZI A CUI RANUCCI, AL DI LÀ DELLE POLEMICHE E DELLE QUERELE, SERVE ED APPARECCHIA? – NON SOLO LAVITOLA: IL RAPPORTO AMICALE DI RANUCCI CON L'UBIQUO ITALO BOCCHINO - SALE IL CLIMA DI TENSIONE NELLA SQUADRA DI “REPORT” DOVE SONO IN MOLTI A CREDERE AL REINTEGRO DI “SIG”: E METÀ REDAZIONE È PRONTA A GIRARE I TACCHI…

roberto vannacci giannetta reggio calabria meloni salvini tajani occhiuto roscioli cannizzaro lotito

DAGOREPORT – LA CALABRIA NON È STATA LA SASSONIA, MA VANNACCI HA LANCIATO UN SASSO PESANTE – IL CENTRODESTRA HA AVUTO L’ORDINE DI ESULTARE PER LA VITTORIA DI FABIO ROSCIOLI ALLE SUPPLETIVE DI REGGIO CALABRIA, EPPURE IL RISULTATO DI FUTURO NAZIONALE IN DOPPIA CIFRA HA SPIAZZATO LA MAGGIORANZA – L’OBIETTIVO ERA SUPERARE IL 60%, MA ROSCIOLI SI È FERMATO AL 51% IN UNA CITTÀ “BLINDATA” – L’11% DI GIANNETTA DIMOSTRA CHE L’EX GENERALE SI STA ORGANIZZANDO SUI TERRITORI, AGGIUNGENDO IL “VOTO STRUTTURATO” DEI CACICCHI LOCALI A QUELLO DI OPINIONE, CHE RIESCE A INTERCETTARE IN PRIMA PERSONA – A QUESTO PUNTO A GIORGIA INTERROMPERE L’ASCESA DI VANNACCI STA DIVENTANDO UN ROMPICAPO...

andrea stroppa elon musk beppe grillo

DAGOREPORT - PER CAPIRE IL SENSO DELL’INCONTRO TRA IL LUOGOTENENTE DI MUSK IN ITALIA, ANDREA STROPPA, E BEPPE GRILLO BISOGNA CAPIRE IL CONTESTO DELLA DESTRA “MAGA” – ARCHIVIATO IL TRUMPISMO, IN PATRIA THIEL E MUSK PUNTANO LE LORO FICHES SU JD VANCE. MA HANNO BISOGNO DI UNA RETE INTERNAZIONALE DI “SUPPORTO” – IL SUDAMERICA SE L’È INTESTATO THIEL (CHE FLIRTA CON L'ARGENTINO MILEI), MA L’EUROPA È TERRENO DI MUSK - IN GERMANIA IL FONDATORE DI TESLA HA TROVATO SODDISFAZIONE AIUTANDO I NEONAZISTI DI AFD - E IN ITALIA? DOPO IL ''TRADIMENTO'' SULL'AFFARE STARLINK DI MELONI, CON SALVINI ALLA FRUTTA E QUEL VANNACCI SU CUI ALEGGIANO DUBBI E SOSPETTI, ECCO CHE MUSK CHIEDE AL SUO REFERENTE STROPPA DI TASTARE IL TERRENO PER CAPIRE COME E QUANDO INTERVENIRE SULLO SCENARIO ITALIANO - ANCHE INCONTRARE QUEL VECCHIO GRILLO, CHE GRAZIE ALL'EMINENZA GRIGIA TECNO-VISIONARIA DI CASALEGGIO PORTO' IL M5S AL 33%, PUO' STIMOLARE QUALCHE IDEUZZA...

carlo freccero silvio berlusconi anni ottanta 80 tv mediaset

DAGOREPORT - SARÀ STATO UN BIGNÉ IN DOPPIOPETTO, UN FABBRICANTE DI MILIARDI INDAGATO-CONDANNATO-PRESCRITTO, UNO SCIUPAFEMMINE PIÙ VIBRANTE DI UN VIBRATORE, UN POLITICO CHE ALL’ETICA HA SEMPRE PREFERITO LA COTICA. SARÀ STATO QUELLO CHE È STATO RACCONTATO IN MIGLIAIA DI ARTICOLI, LIBRI, INCHIESTE, MA UNA COSA È CERTA: SILVIO BERLUSCONI HA INTUITO, CALCOLATRICE IN MANO, CHE LA VERA EGEMONIA NON ERA PIU' CULTURALE BENSÌ TELEVISIVA – LA GRANDE INTUIZIONE, MATRICE DEL BERLUSCONISMO ANCORA OGGI VIVO E VEGETO, È STATA LA SUA CAPACITÀ DI COMPRENDERE LO SPIRITO DEL TEMPO: DAL SINISTRISMO SI PASSA AL NARCISISMO, DAL NOI ALL'IO, DALLA SOMMOSSA DELLE BIERRE ALLA MOSSA DELLE PIERRE, DA LOTTA CONTINUA AL SUCCESSO DI BREVE DURATA, DAI CELLULARI AL CELLULARE, DALLA RIVOLTA A TRAVOLTA – UN BREVE E ILLUMINANTE SAGGIO DI CARLO FRECCERO: ''LA SINISTRA STENTA A CAPIRE QUESTA FONDAMENTALE MUTAZIONE DALLA CLASSE ALLA MAGGIORANZA, DAL POLITICO AL PRIVATO. IN QUESTO VUOTO IDEOLOGICO SI INSERISCE BERLUSCONI E IL BERLUSCONISMO - NON È PIÙ LA RAI A IMPORRE AL PUBBLICO LE SUE SCELTE PEDAGOGICHE, MA IL PUBBLICO STESSO A DETTARE LE SUE LEGGI ALLA PROGRAMMAZIONE. LA GENTE, DIVENTA PER LA PRIMA VOLTA CONSAPEVOLE DEL SUO VALORE, NON IN SENSO MORALE, MA ECONOMICO…” - VIDEO