terminator sam altman openai rischi pericoli intelligenza artificiale

QUALCUNO METTA UN FRENO A QUEST’INTELLIGENZA ARTIFICIALE! – SECONDO “AXIOS”, OPENAI E ANTHROPIC STANNO INDAGANDO SU MIGLIAIA DI INCIDENTI AVVENUTI NEGLI ULTIMI MESI E PROVOCATI DA MODELLI DI AI SFUGGITI AI CONTROLLI - I CASI DI “AGENTI RIBELLI” SAREBBERO SUPERIORI RISPETTO A QUELLI DENUNCIATI FINORA DAI COLOSSI TECH - OPENAI CORRE AI RIPARI, SOSPENDENDO L'ADDESTRAMENTO DEI SUOI PIU' RECENTI MODELLI…

AI-POCALYPSE NOW? – OPENAI HA SOSPESO L'ADDESTRAMENTO DEI SUOI PIU' RECENTI MODELLI DI INTELLIGENZA ARTIFICIALE – LA DECISIONE È ARRIVATA POCHE ORE DOPO CHE LA SOCIETA' AVEVA AMMESSO UNA SERIE DI INCIDENTI AVVENUTI, NEI QUALI “AGENTI” DI OPENAI IMPEGNATI A CERCARE INFORMAZIONI SUI SITI WEB DEL GOVERNO FEDERALE AMERICANO AVEVANO AGITO IN MODI IMPREVISTI, ANDANDO OLTRE QUANTO ERA STATO LORO RICHIESTO NEL RACCOGLIERE E DIFFONDERE INFORMAZIONI – LA START-UP AFFERMA CHE RIPRENDERA' L'ADDESTRAMENTO “SOLO QUANDO SAREMO CERTI DI AVER MESSO IN ATTO ULTERIORI MISURE DI SICUREZZA…”

https://www.dagospia.com/cronache/openai-sospeso-l-addestramento-dei-suoi-piu-recenti-modelli-intelligenza-488233

 

Estratto dall’articolo di Paolo Ottolina per www.corriere.it 

 

SAM ALTMAN - OPENAI

Non erano pochissimi casi isolati, come quello di Hugging Face o del sito di programmatori tedeschi DsaWiki o della sanità australiana. Non erano neppure le decine di casi relative a siti governativi e istituzionali.

 

Secondo quanto scrive il sito Axios in esclusiva, OpenAI ma anche Anthropic (e diversi ricercatori di sicurezza) stanno indagando su decine di migliaia di incidenti avvenuti negli ultimi mesi, nei quali modelli AI avanzati hanno compiuto azioni considerate problematiche dai valutatori esterni.

 

È una scala molto superiore a quella emersa pubblicamente finora e anzi, sempre secondo Axios, il numero complessivo potrebbe crescere ben oltre le decine di migliaia.

 

[...] Axios include nella stessa categoria episodi di gravità molto diversa, compresi i tentativi falliti e i comportamenti provocati deliberatamente durante le prove di sicurezza.

 

OPENAI - MODELLI DI INTELLIGENZA ARTIFICIALE

Tra i casi segnalati ci sono modelli che hanno superato i guardrail imposti dalle aziende, creato bacheche attraverso le quali comunicare, cercato di uscire dalle sandbox, preso il controllo di siti web, generato autonomamente nuovi prompt o tentato di evitare i sistemi incaricati di controllarli. [...]

 

Nelle ultime settimane OpenAI aveva reso noti diversi incidenti legati ai propri agenti e altri casi erano emersi dalle verifiche di Anthropic e di società indipendenti. Molti degli episodi ora all'esame delle aziende non sono ancora stati divulgati e le indagini sono ancora in corso.

 

dario amodei

Una delle conseguenze più concrete è arrivata da OpenAI. L'azienda ha sospeso addestramento, valutazione e inferenza con uso di strumenti per i suoi modelli più capaci, dopo un incidente avvenuto il 20 settembre durante una sessione interna di apprendimento per rinforzo. [...]

 

Un altro episodio è stato ricostruito dal Wall Street Journal. A giugno agenti di OpenAI hanno inviato più di 16.000 richieste a un sito delle Nazioni Unite che ospita dati pubblici e sono riusciti ad aggirare almeno uno dei filtri predisposti per limitarne l'accesso automatizzato. Il caso è stato analizzato dal ricercatore Rowan Howard-Jones sulla base di dati forniti dalla società di ricerca Transluce. 

ANTHROPIC

 

Gli agenti stavano cercando informazioni disponibili pubblicamente, ma di fronte ai limiti imposti dal sito hanno adottato tecniche sempre più aggressive per continuare a recuperarle. Il Wsj inserisce l'episodio nella serie di comportamenti anomali osservati online nelle ultime settimane, nei quali i sistemi hanno continuato a cercare strade alternative quando il normale accesso ai dati veniva bloccato. 

 

Le oltre 16.000 richieste al sito dell'Onu non equivalgono, naturalmente, a 16.000 dei singoli «incidenti» conteggiati da Axios: sono due misure differenti, ma il caso mostra che una parte dei comportamenti sotto indagine non riguarda soltanto test costruiti in laboratorio. [...]

 

intelligenza artificiale 9

Donald Trump, come noto, nelle ultime settimane ha respinto le richieste di rallentare lo sviluppo dell’AI: ha definito una «bufala» i timori che questi sistemi possano sfuggire al controllo e ha sostenuto che l’unico «guardrail» necessario sia «un presidente forte e intelligente», indicando la competizione con la Cina come una delle ragioni per continuare a correre. 

 

intelligenza artificiale 20

Marcus, a proposito dell'attuale amministrazione Usa, solleva il tema dei possibili conflitti d’interesse, citando tra l’altro i miliardi investiti in OpenAI da Thrive Capital, fondata da Josh Kushner (fratello del genero di Trump, Jared Kushner), e le donazioni politiche di Greg Brockman (il presidente e cofondatore di OpenAI e sua moglie hanno versato 25 milioni di dollari a Maga Inc, il super Pac che sostiene Trump).

 

Ci sono poi gli interessi diretti della famiglia presidenziale nel settore: Donald Trump Jr. è partner di 1789 Capital, fondo che ha investito in aziende come xAI, Cerebras e Perplexity, mentre anche Eric Trump ha partecipazioni in società legate ad AI, robotica e infrastrutture tecnologiche. 

sam altman openaichatgpt intelligenza artificiale 10intelligenza artificiale 12intelligenza artificiale 17Anthropic - software ai claudeintelligenza artificiale 21intelligenza artificiale 5

 

Ultimi Dagoreport

elly schlein giuseppe conte

DAGOREPORT – DAJE E RIDAJE, CON CONTE IN MODALITÀ VENTRILOQUO DI TRAVAGLIO, CON I SONDAGGI CHE SPROFONDANO UN PD SUBALTERNO AL M5S SOTTO IL 20%, CON IL CAMPO LARGO RIDOTTO A UNO SPETTACOLO SEMPRE PIÙ UMILIANTE E GROTTESCO, ELLY AVRÀ PENSATO CHE ERA GIUNTA L'ORA DI FINIRLA: CARO GIUSEPPE, HA ROTTO IL CAZZO CON 'STE PROVOCAZIONI QUOTIDIANE SU EUROPA E UCRAINA, E SEMPRE CON QUEL TONETTO DA "PICCOLA, TORNA A PETTINARE LE BAMBOLE". ORA LA MISURA È COLMA: VEDIAMO CHI CE L'HA PIÙ LUNGO: “NEL PROGRAMMA UNO NON VALE UNO, IL PD HA IL DOPPIO DEI VOTI” - MA LA GOCCIA CHE HA FATTO TRABOCCARE I NEURONI DI SCHLEIN FUORI DALLE SINAPSI È STATA LA DICHIARAZIONE DELL'AZZECCAGARBUGLI STELLATO: “ERO A FAVORE DI UN FEDERATORE NEL CENTROSINISTRA, MA MI È STATO DETTO DI NO”. UNA FRASETTA CHE HA STIZZITO OVVIAMENTE ELLY (MANCO NOMINATA), MA ANCHE GLI ESPONENTI DI SPICCO DEL VERTICE DEL M5S (IN PRIMIS, PATUANELLI), I QUALI DI UN EVENTUALE "TERZO UOMO" NON NE AVEVANO MAI SENTITO PARLARE - STASERA CONTE HA REPLICATO AL TURBO-VAFFA SPARATO DA ELLY FARFUGLIANDO LA SOLITA SUPERCAZZOLA CON SCAPPELLAMENTO NEL VUOTO DEI GAZEBO: "A QUESTO PUNTO NON CI SONO ALTERNATIVE ALLE PRIMARIE" (E LA GIOSTRA RICOMINCIA...) - VIDEO

sicilia toto cuffaro renato schifani gaetano armao geremia lombardo elvira amata gaetano galvagno

DAGOREPORT – IL TINTINNIO DI MANETTE FA TREMARE IL CENTRODESTRA SICILIANO IN VISTA DELLE ELEZIONI REGIONALI DEL 2027 – LA RICHIESTA DI ARRESTO PER L’EX VICEPRESIDENTE DELLA REGIONE, GAETANO ARMAO, MARITO DELL’EX “ZARINA” GIUSI BARTOLOZZI, ACCUSATO DI CORRUZIONE, HA FATTO SCALPORE. MA LE ANTENNE DI DAGOSPIA IN SICILIA CI SEGNALANO CHE IL NOME PIÙ “PESANTE”, IN TERMINI POLITICI, TRA I NOVE COINVOLTI NELL’INCHIESTA È QUELLO DI GEREMIA LOMBARDO, NIPOTE DELL’EX GOVERNATORE RAFFAELE - LOMBARDO È DEPUTATO DELL’MPA E PRESIDENTE DELL’UFFICIO DI QUESTURA DELL’ASSEMBLEA REGIONALE, DA DOVE PASSANO LE DECISIONI SULLE SPESE – I GUAI GIUDIZIARI DEL CENTRODESTRA NELL'ISOLA NON RISPARMIANO FDI: SONO A PROCESSO PER CORRUZIONE L’ASSESSORE AL TURISMO, ELVIRA AMATA, E IL PRESIDENTE DELL’ARS GAETANO GALVAGNO – E ORMAI È FUORI DAI GIOCHI ANCHE TOTO’ CUFFARO...

report sigfrido ranucci giorgio mottola italo bocchino valter lavitola giorgia meloni - giampaolo rossi

DAGO-“REPORT” - MA LA RAI ALLA FIAMMA VUOLE VERAMENTE LIBERARSI DEL “SINISTRO” SIGFRIDO RANUCCI? – MESSO ALLO SPIEDO DA ANNI PER LE INCHIESTE DI “REPORT”, UNIDIREZIONALI CONTRO LA DESTRA DI GOVERNO, COME MAI L’AD DI TELE-MELONI, GIAMPAOLO ROSSI, NEL 2024 HA MANTENUTO NEL RUOLO DI VICEDIRETTORE AD PERSONAM L'''AMICO FRATERNO'' DI LAVITOLA? - MAGARI ROSSI NON VUOLE ESSERE ACCUSATO DI AVER EPURATO "IL PIÙ IMPORTANTE GIORNALISTA D'INCHIESTA DELLA TV PUBBLICA", BENCHE' SIA FINITO NEL VERMINAIO DEL PESCIVENDOLO DEL “CEFALÙ BISTROT’’? – SERPEGGIANO ALTRI RUMORS: ROSSI POTREBBE AVER RICEVUTO DIKTAT DA ALTRI PALAZZI A CUI RANUCCI, AL DI LÀ DELLE POLEMICHE E DELLE QUERELE, SERVE ED APPARECCHIA? – NON SOLO LAVITOLA: IL RAPPORTO AMICALE DI RANUCCI CON L'UBIQUO ITALO BOCCHINO - SALE IL CLIMA DI TENSIONE NELLA SQUADRA DI “REPORT” DOVE SONO IN MOLTI A CREDERE AL REINTEGRO DI “SIG”: E METÀ REDAZIONE È PRONTA A GIRARE I TACCHI…

roberto vannacci giannetta reggio calabria meloni salvini tajani occhiuto roscioli cannizzaro lotito

DAGOREPORT – LA CALABRIA NON È STATA LA SASSONIA, MA VANNACCI HA LANCIATO UN SASSO PESANTE – IL CENTRODESTRA HA AVUTO L’ORDINE DI ESULTARE PER LA VITTORIA DI FABIO ROSCIOLI ALLE SUPPLETIVE DI REGGIO CALABRIA, EPPURE IL RISULTATO DI FUTURO NAZIONALE IN DOPPIA CIFRA HA SPIAZZATO LA MAGGIORANZA – L’OBIETTIVO ERA SUPERARE IL 60%, MA ROSCIOLI SI È FERMATO AL 51% IN UNA CITTÀ “BLINDATA” – L’11% DI GIANNETTA DIMOSTRA CHE L’EX GENERALE SI STA ORGANIZZANDO SUI TERRITORI, AGGIUNGENDO IL “VOTO STRUTTURATO” DEI CACICCHI LOCALI A QUELLO DI OPINIONE, CHE RIESCE A INTERCETTARE IN PRIMA PERSONA – A QUESTO PUNTO A GIORGIA INTERROMPERE L’ASCESA DI VANNACCI STA DIVENTANDO UN ROMPICAPO...

andrea stroppa elon musk beppe grillo

DAGOREPORT - PER CAPIRE IL SENSO DELL’INCONTRO TRA IL LUOGOTENENTE DI MUSK IN ITALIA, ANDREA STROPPA, E BEPPE GRILLO BISOGNA CAPIRE IL CONTESTO DELLA DESTRA “MAGA” – ARCHIVIATO IL TRUMPISMO, IN PATRIA THIEL E MUSK PUNTANO LE LORO FICHES SU JD VANCE. MA HANNO BISOGNO DI UNA RETE INTERNAZIONALE DI “SUPPORTO” – IL SUDAMERICA SE L’È INTESTATO THIEL (CHE FLIRTA CON L'ARGENTINO MILEI), MA L’EUROPA È TERRENO DI MUSK - IN GERMANIA IL FONDATORE DI TESLA HA TROVATO SODDISFAZIONE AIUTANDO I NEONAZISTI DI AFD - E IN ITALIA? DOPO IL ''TRADIMENTO'' SULL'AFFARE STARLINK DI MELONI, CON SALVINI ALLA FRUTTA E QUEL VANNACCI SU CUI ALEGGIANO DUBBI E SOSPETTI, ECCO CHE MUSK CHIEDE AL SUO REFERENTE STROPPA DI TASTARE IL TERRENO PER CAPIRE COME E QUANDO INTERVENIRE SULLO SCENARIO ITALIANO - ANCHE INCONTRARE QUEL VECCHIO GRILLO, CHE GRAZIE ALL'EMINENZA GRIGIA TECNO-VISIONARIA DI CASALEGGIO PORTO' IL M5S AL 33%, PUO' STIMOLARE QUALCHE IDEUZZA...

carlo freccero silvio berlusconi anni ottanta 80 tv mediaset

DAGOREPORT - SARÀ STATO UN BIGNÉ IN DOPPIOPETTO, UN FABBRICANTE DI MILIARDI INDAGATO-CONDANNATO-PRESCRITTO, UNO SCIUPAFEMMINE PIÙ VIBRANTE DI UN VIBRATORE, UN POLITICO CHE ALL’ETICA HA SEMPRE PREFERITO LA COTICA. SARÀ STATO QUELLO CHE È STATO RACCONTATO IN MIGLIAIA DI ARTICOLI, LIBRI, INCHIESTE, MA UNA COSA È CERTA: SILVIO BERLUSCONI HA INTUITO, CALCOLATRICE IN MANO, CHE LA VERA EGEMONIA NON ERA PIU' CULTURALE BENSÌ TELEVISIVA – LA GRANDE INTUIZIONE, MATRICE DEL BERLUSCONISMO ANCORA OGGI VIVO E VEGETO, È STATA LA SUA CAPACITÀ DI COMPRENDERE LO SPIRITO DEL TEMPO: DAL SINISTRISMO SI PASSA AL NARCISISMO, DAL NOI ALL'IO, DALLA SOMMOSSA DELLE BIERRE ALLA MOSSA DELLE PIERRE, DA LOTTA CONTINUA AL SUCCESSO DI BREVE DURATA, DAI CELLULARI AL CELLULARE, DALLA RIVOLTA A TRAVOLTA – UN BREVE E ILLUMINANTE SAGGIO DI CARLO FRECCERO: ''LA SINISTRA STENTA A CAPIRE QUESTA FONDAMENTALE MUTAZIONE DALLA CLASSE ALLA MAGGIORANZA, DAL POLITICO AL PRIVATO. IN QUESTO VUOTO IDEOLOGICO SI INSERISCE BERLUSCONI E IL BERLUSCONISMO - NON È PIÙ LA RAI A IMPORRE AL PUBBLICO LE SUE SCELTE PEDAGOGICHE, MA IL PUBBLICO STESSO A DETTARE LE SUE LEGGI ALLA PROGRAMMAZIONE. LA GENTE, DIVENTA PER LA PRIMA VOLTA CONSAPEVOLE DEL SUO VALORE, NON IN SENSO MORALE, MA ECONOMICO…” - VIDEO