terminator sam altman openai rischi pericoli intelligenza artificiale

QUALCUNO METTA UN FRENO A QUEST’INTELLIGENZA ARTIFICIALE! – SECONDO “AXIOS”, OPENAI E ANTHROPIC STANNO INDAGANDO SU MIGLIAIA DI INCIDENTI AVVENUTI NEGLI ULTIMI MESI E PROVOCATI DA MODELLI DI AI SFUGGITI AI CONTROLLI - I CASI DI “AGENTI RIBELLI” SAREBBERO SUPERIORI RISPETTO A QUELLI DENUNCIATI FINORA DAI COLOSSI TECH - OPENAI CORRE AI RIPARI, SOSPENDENDO L'ADDESTRAMENTO DEI SUOI PIU' RECENTI MODELLI…

AI-POCALYPSE NOW? – OPENAI HA SOSPESO L'ADDESTRAMENTO DEI SUOI PIU' RECENTI MODELLI DI INTELLIGENZA ARTIFICIALE – LA DECISIONE È ARRIVATA POCHE ORE DOPO CHE LA SOCIETA' AVEVA AMMESSO UNA SERIE DI INCIDENTI AVVENUTI, NEI QUALI “AGENTI” DI OPENAI IMPEGNATI A CERCARE INFORMAZIONI SUI SITI WEB DEL GOVERNO FEDERALE AMERICANO AVEVANO AGITO IN MODI IMPREVISTI, ANDANDO OLTRE QUANTO ERA STATO LORO RICHIESTO NEL RACCOGLIERE E DIFFONDERE INFORMAZIONI – LA START-UP AFFERMA CHE RIPRENDERA' L'ADDESTRAMENTO “SOLO QUANDO SAREMO CERTI DI AVER MESSO IN ATTO ULTERIORI MISURE DI SICUREZZA…”

https://www.dagospia.com/cronache/openai-sospeso-l-addestramento-dei-suoi-piu-recenti-modelli-intelligenza-488233

 

Estratto dall’articolo di Paolo Ottolina per www.corriere.it 

 

SAM ALTMAN - OPENAI

Non erano pochissimi casi isolati, come quello di Hugging Face o del sito di programmatori tedeschi DsaWiki o della sanità australiana. Non erano neppure le decine di casi relative a siti governativi e istituzionali.

 

Secondo quanto scrive il sito Axios in esclusiva, OpenAI ma anche Anthropic (e diversi ricercatori di sicurezza) stanno indagando su decine di migliaia di incidenti avvenuti negli ultimi mesi, nei quali modelli AI avanzati hanno compiuto azioni considerate problematiche dai valutatori esterni.

 

È una scala molto superiore a quella emersa pubblicamente finora e anzi, sempre secondo Axios, il numero complessivo potrebbe crescere ben oltre le decine di migliaia.

 

[...] Axios include nella stessa categoria episodi di gravità molto diversa, compresi i tentativi falliti e i comportamenti provocati deliberatamente durante le prove di sicurezza.

 

OPENAI - MODELLI DI INTELLIGENZA ARTIFICIALE

Tra i casi segnalati ci sono modelli che hanno superato i guardrail imposti dalle aziende, creato bacheche attraverso le quali comunicare, cercato di uscire dalle sandbox, preso il controllo di siti web, generato autonomamente nuovi prompt o tentato di evitare i sistemi incaricati di controllarli. [...]

 

Nelle ultime settimane OpenAI aveva reso noti diversi incidenti legati ai propri agenti e altri casi erano emersi dalle verifiche di Anthropic e di società indipendenti. Molti degli episodi ora all'esame delle aziende non sono ancora stati divulgati e le indagini sono ancora in corso.

 

dario amodei

Una delle conseguenze più concrete è arrivata da OpenAI. L'azienda ha sospeso addestramento, valutazione e inferenza con uso di strumenti per i suoi modelli più capaci, dopo un incidente avvenuto il 20 settembre durante una sessione interna di apprendimento per rinforzo. [...]

 

Un altro episodio è stato ricostruito dal Wall Street Journal. A giugno agenti di OpenAI hanno inviato più di 16.000 richieste a un sito delle Nazioni Unite che ospita dati pubblici e sono riusciti ad aggirare almeno uno dei filtri predisposti per limitarne l'accesso automatizzato. Il caso è stato analizzato dal ricercatore Rowan Howard-Jones sulla base di dati forniti dalla società di ricerca Transluce. 

ANTHROPIC

 

Gli agenti stavano cercando informazioni disponibili pubblicamente, ma di fronte ai limiti imposti dal sito hanno adottato tecniche sempre più aggressive per continuare a recuperarle. Il Wsj inserisce l'episodio nella serie di comportamenti anomali osservati online nelle ultime settimane, nei quali i sistemi hanno continuato a cercare strade alternative quando il normale accesso ai dati veniva bloccato. 

 

Le oltre 16.000 richieste al sito dell'Onu non equivalgono, naturalmente, a 16.000 dei singoli «incidenti» conteggiati da Axios: sono due misure differenti, ma il caso mostra che una parte dei comportamenti sotto indagine non riguarda soltanto test costruiti in laboratorio. [...]

 

intelligenza artificiale 9

Donald Trump, come noto, nelle ultime settimane ha respinto le richieste di rallentare lo sviluppo dell’AI: ha definito una «bufala» i timori che questi sistemi possano sfuggire al controllo e ha sostenuto che l’unico «guardrail» necessario sia «un presidente forte e intelligente», indicando la competizione con la Cina come una delle ragioni per continuare a correre. 

 

intelligenza artificiale 20

Marcus, a proposito dell'attuale amministrazione Usa, solleva il tema dei possibili conflitti d’interesse, citando tra l’altro i miliardi investiti in OpenAI da Thrive Capital, fondata da Josh Kushner (fratello del genero di Trump, Jared Kushner), e le donazioni politiche di Greg Brockman (il presidente e cofondatore di OpenAI e sua moglie hanno versato 25 milioni di dollari a Maga Inc, il super Pac che sostiene Trump).

 

Ci sono poi gli interessi diretti della famiglia presidenziale nel settore: Donald Trump Jr. è partner di 1789 Capital, fondo che ha investito in aziende come xAI, Cerebras e Perplexity, mentre anche Eric Trump ha partecipazioni in società legate ad AI, robotica e infrastrutture tecnologiche. 

sam altman openaichatgpt intelligenza artificiale 10intelligenza artificiale 12intelligenza artificiale 17Anthropic - software ai claudeintelligenza artificiale 21intelligenza artificiale 5

 

Ultimi Dagoreport

carlo messina giorgia meloni

DAGOREPORT - SOTTO LA BANCA, IL GOVERNO CREPA! - GONG: SIAMO ALL'ESCALATION FINALE TRA LE BANCHE E GIORGIA MELONI! L'AD DI INTESA CARLO MESSINA LANCIA UN GANCIO TREMENDO ALLA PREMIER, CHE RISPONDE, DA POPULISTA CONSUMATA: "CERCHIAMO DI DARCI UNA MANO RECIPROCAMENTE, LA TASSA SUGLI EXTRAPROFITTI È UNA MISURA DI GIUSTIZIA" - TRA “MISURE SUDAMERICANE” E “INCOSTITUZIONALI”, IL BOSS DELLA PRIMA BANCA ITALIANA HA MINACCIATO (POCO) VELATAMENTE DI METTERE MANO AL PORTAFOGLIO DI TITOLI DI STATO: INTESA È IL PRIMO DETENTORE PRIVATO DI BOT E BTP (UNA 70INA DI MILIARDI) – IL NERVOSISMO DI MESSINA SI SPIEGA ANCHE CON L'OPERAZIONE MPS: IL BANCHIERE ROMANO È ALL’ULTIMO MIGLIO PRIMA DI PRENDERE GENERALI. MA CI SONO UN’INFINITÀ DI FRIZIONI, DUBBI E DOMANDE INTORNO ALLA CONQUISTA DEL LEONE. A PARTIRE DALLE MOSSE DI ANDREA ORCEL: CHE SUCCEDEREBBE SE UNICREDIT SIGLASSE UN ACCORDO CON GENERALI PER LA DISTRIBUZIONE DI POLIZZE?

meloni giorgetti castagna bpm credit agricole

DAGOREPORT - BANCO BPM, OVVERO LA BANCAROTTA DI GIORGIA & GIORGETTI. ET VOILÀ, DOPO ANNI DI PIPPONI PER SALVAGUARDARE DA ARTIGLI STRANIERI IL GRAN RISPARMIO DEL BELPAESE, I GENI DELLL’ARMATA BRANCA-MELONI SONO RIUSCITI NEL MIRACOLO DI CONSEGNARE SU UN VASSOIO D’ARGENTO BANCO BPM AI FRANCESI DI CREDIT AGRICOLE - CON IL 29% DI BPM, ALLA BANQUE VERTE BASTA LA FUSIONE DEGLI ASSET DELLA LORO CONTROLLATA CREDIT AGRICOLE ITALIA CON BANCO BPM. CONFERMANDO POI IL MULTIFUNZIONALE GIUSEPPE CASTAGNA SULLA POLTRONA DI CEO, POTRANNO FAR CREDERE CHE SIA BANCO BPM AD ACQUISIRE LA CONTROLLATA FRANCESE IN ITALIA - CHE SIANO GIÀ I GALLETTI FRANCESI A COMANDARE NELL’EX POPOLARE DI MILANO È STATO CHIARO QUANDO HANNO ESPRESSO LA CONTRARIETÀ AL PROGETTO DI MPS BY LOVAGLIO. CASTAGNA, CHE APPENA UN MESE PRIMA AVEVA INVIATO UNA “LETTERA D’AMORE” A SIENA, SI È RIMANGIATO TUTTO E HA AVALLATO L’ORDINE DEI TRANSALPINI. SU, SIAMO BANCHIERI DI MONDO, SO’ COSE CHE SUCCEDONO…

marina pier silvio berlusconi antonio tajani giorgia meloni

“FORZA ITALIA È PER MARINA E PIERSILVIO UN BEL LASCITO DEL PADRE: UN CASTELLO IN MONTAGNA DOVE PERÒ NON VANNO MAI. E COSÌ, POCO ALLA VOLTA, VA IN ROVINA” – LO SFOGO DI UN ESPONENTE DI FORZA ITALIA A DAGOSPIA - IL PARTITO PERDE PEZZI, TAJANI STA FACENDO SCAPPARE VIA DEPUTATI E SENATORI (CON ESPONENTI LOCALI AL SEGUITO) MA MARINA BERLUSCONI NON INTERVIENE: ASCOLTA GLI ALTI LAI DEI VARI OCCHIUTO, ZANGRILLO, CIRIO, OCCHIUTO, MA POI SI DEFILA E LI LASCIA SENZA COPERTURA. PERCHÉ? SEMPLICEMENTE NON LE INTERESSA. LA POLITICA NON LA APPASSIONA, LEI PENSA ALLE IMPRESE. E COSI’ QUEL MERLUZZONE BOLLITO DI TAJANI RESTA AL SUO POSTO, CON L’UNICA VERA PRETENDENTE ALLA SUCCESSIONE, STEFANIA CRAXI, ALLA FINESTRA. IL CASO-CAMPANIA INSEGNA: MARTUSCIELLO, VERO NUMERO DUE DI TAJANI, SPADRONEGGIA, E IL PARTITO SI SVUOTA…

elly schlein cappuccetto rosso

FLASH - ELLY NEL PAESE DELLE MERAVIGLIE! ALL’INCONTRO DI OGGI CON GIORGIA MELONI, SCHLEIN AVREBBE STUPITO I PRESENTI CON SUPERCAZZOLE FIABESCHE. A UN CERTO PUNTO, ESTASIATA DAL SUO MONDO DEI SOGNI, SI SAREBBE INERPICATA IN UN ARDITO CROSSOVER: “NON VORREMMO CHE CAPPUCCETTO ROSSO FINISCA NELLA CASA DELLA STREGA DI HANSEL E GRETEL” (O MAGARI NEL CASTELLO DI GARGAMELLA) - QUALCUNO FACCIA PRESENTE ALLA SEGRETARIA CHE SE CINCISCHIA COSI' L’UNICA "FAVOLA" RISCHIA DI ESSERE IL SUO ARRIVO A PALAZZO CHIGI…

bergoglio milei leone papa argentina parolin

DAGOREPORT – CON IL SORRISO MITE SULLE LABBRA E IL BISTURI NASCOSTO SOTTO LA TONACA, CONTINUA LA RIVOLUZIONE DI PAPA LEONE - NELLO SUO STORICO VIAGGIO IN ARGENTINA, IL PONTEFICE HA DIMOSTRATO DI AVERE UN'IDEA CHIARA DEL MOMENTO STORICO E DEI MUTAMENTI RADICALI CHE STIAMO ATTRAVERSANDO. IN BREVE, LA FINE DEL MONDO DI IERI - GETTATI IN SOFFITTA GLI STRAPPI E LE SCENEGGIATE DEMAGOGICHE DI BERGOGLIO, A BUENOS AIRES PREVOST HA STRIGLIATO MILEI, BRUCIANDO LA SUA VISIONE TECNO-AUTORITARIA IN ECONOMIA, HA QUINDI SANATO LA FERITA DI PAPA FRANCESCO CON IL SUO PAESE E SOPRATTUTTO HA AMMONITO I VESCOVI LOCALI, INGOLOSITI DALLE DONAZIONI DEL BASETTONE DELLA PAMPAS, RICHIAMANDOLI ALL’ORDINE – A FEBBRAIO, SI VOCIFERA DELLA RESA DEI CONTI INTERNA CON IL SUO NUMERO DUE, PIETRO PAROLIN: DOPO LE INSOSTENIBILI DICHIARAZIONI SULLA “RIMODULAZIONE” DEL PAPATO PER I SUOI PROBLEMI DI SALUTE, POTREBBERO ARRIVARE ALLA SEGRETERIA DI STATO MATTEO ZUPPI O LUIS ANTONIO TAGLE - SORGI: ''LA MANCATA ATTENZIONE , SOPRATTUTTO DEL CENTROSINISTRA. AL SIGNIFICATO DEL VIAGGIO DI PREVOST IN SUDAMERICA...'' - VIDEO

xi jinping vladimir putin attacchi hacker italia

DAGOREPORT - RUSSI, CINESI E IRANIANI CI ATTACCANO: E NOI CHE FAMO? CHE ARMI HANNO LE DEMOCRAZIE OCCIDENTALI DI FRONTE ALLE SPREGIUDICATE OPERAZIONI DEI REGIMI DI MOSCA, PECHINO E TEHERAN? POSSIAMO RISPONDERE CON ATTACCHI UGUALI E CONTRARI? VISTA LA PAVIDA E IMBELLE OPINIONE PUBBLICA ITALIANA, È DIFFICILE GIUSTIFICARE UN’OPERAZIONE DI "ATTACCO" MA NON POSSIAMO RESTARE CON LE MANI IN MANO - LA COSTITUZIONE CI VIETA AZIONI DI GUERRA, DUNQUE LA SOLUZIONE POTREBBE ESSERE UN AMPLIAMENTO, ATTRAVERSO NUOVE NORME, DEL CONCETTO DI “DIFESA” (NON SOLO REAZIONI MA ANCHE AZIONI PREVENTIVE DI DISTURBO) - PER FARLO, SERVONO SOPRATTUTTO NUOVI INVESTIMENTI IN DIFESA A PARTIRE DALLA CREAZIONE DI "UNA STRUTTURA DI INTELLIGENCE DEDICATA ALLA CYBERSICUREZZA” COME SUGGERISCE L’EX MINISTRO DELL’INTERNO, MARCO MINNITI...