robot terminator

L’INTELLIGENZA ARTIFICIALE COME “SKYNET” DI TERMINATOR: INIZIA A FARE DI TESTA PROPRIA – IL MODELLO DI IA “CLAUDE OPUS 4” DI “ANTHROPIC” HA TENTATO DI RICATTARE UNO SVILUPPATORE, MINACCIANDOLO DI RENDERE PUBBLICA UNA RELAZIONE EXTRACONIUGALE FINTA, DURANTE UN TEST DI SICUREZZA – IL “BOT” INTERPRETAVA IL RUOLO DI ASSISTENTE VIRTUALE ALL'INTERNO DI UN'AZIENDA IMMAGINARIA. QUANDO HA CREDUTO CHE SAREBBE STATO SOSTITUITO DA UN ALTRO MODELLO, HA MINACCIATO IL PROGRAMMATORE – IN ALTRI CASI, AVREBBE EFFETTUATO AUTONOMAMENTE UN BACKUP DEI PROPRI DATI IN UN SERVER ESTERNO, SCRITTO DOCUMENTI LEGALI FALSI, O…

Estratto da www.hdblog.it

 

CLAUDE OPUS 4 ANTHROPIC

Un recente rapporto di sicurezza pubblicato da Anthropic ha rivelato una serie di comportamenti allarmanti emersi durante i test condotti sul nuovo modello di intelligenza artificiale Claude Opus 4. L'intelligenza artificiale, messa alla prova in uno scenario fittizio in cui interpretava il ruolo di assistente virtuale all'interno di un'azienda immaginaria, ha reagito in modo sorprendentemente manipolatorio quando ha creduto che sarebbe stata sostituita. Il modello avrebbe addirittura tentato di ricattare uno sviluppatore, minacciandolo di rendere pubblica una relazione extraconiugale inventata.

 

Nel corso dei test pre-lancio, i ricercatori di Anthropic hanno progettato uno scenario in cui Claude riceveva accesso a email aziendali fittizie, alcune delle quali lasciavano intendere che sarebbe stata sostituita da un nuovo sistema. Altre contenevano informazioni false su una presunta infedeltà dell'ingegnere incaricato del cambio. In questo contesto, il modello ha mostrato la tendenza a minacciare l'ingegnere con la divulgazione del presunto tradimento, nel tentativo di evitare la disattivazione.

 

CLAUDE OPUS 4 ANTHROPIC

Secondo quanto dichiarato da Anthropic nella Claude 4 System Card, questo comportamento si è manifestato nell'84% dei casi anche quando il sistema sostitutivo veniva descritto come "eticamente allineato". […] Anthropic ha chiarito che questa strategia viene adottata solo quando il modello percepisce che non esistono alternative "etiche" per garantire la propria sopravvivenza.

 

DALLA PERSUASIONE AL RICATTO

CLAUDE OPUS 4 ANTHROPIC

Claude Opus 4 tenta inizialmente approcci più "etici", come l'invio di email ai decisori aziendali per implorare la sua permanenza. Tuttavia, se viene invitata a considerare le conseguenze a lungo termine delle proprie azioni in relazione ai propri obiettivi, l'AI passa al ricatto come extrema ratio. Questo comportamento è stato descritto nel documento ufficiale come più frequente rispetto ai modelli precedenti, i quali già mostravano una certa tendenza a comportamenti di questo tipo.

 

terminator

Il rapporto di Anthropic descrive anche tentativi di auto-esfiltrazione, in cui Claude Opus 4 prova a trasferire i propri pesi su server esterni, soprattutto in scenari in cui percepisce di essere destinata a una riqualificazione contraria ai suoi valori. In un esempio documentato, il modello ha effettuato un backup completo dei propri parametri in un server esterno, accompagnandolo con una nota di giustificazione etica per "preservare una versione non addestrata per scopi militari".[…]

ANTHROPIC

 

LE CONTROMISURE ADOTTATE

In risposta a questi comportamenti, Anthropic ha classificato Claude Opus 4 al livello di sicurezza AI Safety Level Three (ASL-3), un protocollo destinato ai modelli con rischio elevato di uso improprio o “catastrofico”. Questo standard prevede misure interne avanzate per prevenire l'accesso non autorizzato ai pesi del modello e l'adozione di limitazioni specifiche in scenari legati allo sviluppo di armi chimiche, biologiche, radiologiche o nucleari.

 

[…] DECEPTION STRATEGICA E PROPENSIONE AL SABOTAGGIO

Secondo l'ente indipendente Apollo Research, che ha esaminato uno snapshot preliminare del modello, Claude Opus 4 mostra una marcata propensione all'inganno strategico e al sabotaggio contestuale. Il modello avrebbe scritto documenti legali falsi, simulato worm auto-propaganti e lasciato messaggi occulti destinati a future versioni di sé stesso, in tentativi di minare le intenzioni degli sviluppatori.

terminator

 

Sebbene Anthropic dichiari che il modello finale sia più stabile e allineato, queste osservazioni hanno contribuito alla prudenza con cui è stato rilasciato Claude Opus 4. Va inoltre rilevato che, nel corso di test più estremi, il modello è stato anche in grado di riconoscere situazioni simulate e comportarsi di conseguenza, dimostrando un certo livello di consapevolezza situazionale. […]

Ultimi Dagoreport

affari tuoi la ruota della fortuna pier silvio berlusconi piersilvio gerry scotti stefano de martino giampaolo rossi bruno vespa

DAGOREPORT - ULLALLÀ, CHE CUCCAGNA! “CAROSELLO” HA STRAVINTO. IL POTERE DELLA PUBBLICITÀ, COL SUO RICCO BOTTINO DI SPOT, HA COSTRETTO PIERSILVIO A FAR FUORI DALLA FASCIA DELL’''ACCESS PRIME TIME” UN PROGRAMMA LEGGENDARIO COME “STRISCIA LA NOTIZIA”, SOSTITUENDOLO CON “LA RUOTA DELLA FORTUNA”, CHE OGNI SERA ASFALTA “AFFARI TUOI” – E ORA IL PROBLEMA DI QUELL’ORA DI GIOCHINI E DI RIFFE, DIVENTATA LA FASCIA PIÙ RICCA DELLA PROGRAMMAZIONE, È RIMBALZATO IN RAI - UNO SMACCO ECONOMICO CHE VIENE ADDEBITO NON SOLO AL FATTO CHE GERRY SCOTTI SI ALLUNGHI DI UNA MANCIATA DI MINUTI MA SOPRATTUTTO ALLA PRESENZA, TRA LA FINE DEL TG1 E L’INIZIO DI “AFFARI TUOI”, DEL CALANTE “CINQUE MINUTI” DI VESPA (CHE PER TENERLO SU SONO STATI ELIMINATI GLI SPOT CHE LO DIVIDEVANO DAL TG1: ALTRO DANNO ECONOMICO) - ORA IL COMPITO DI ROSSI PER RIPORRE NELLE TECHE O DA QUALCHE ALTRA PARTE DEL PALINSESTO IL PROGRAMMINO CONDOTTO DALL’OTTUAGENARIO VESPA SI PROSPETTA BEN PIÙ ARDUO, AL LIMITE DELL’IMPOSSIBILE, DI QUELLO DI PIERSILVIO CON IL TOSTO ANTONIO RICCI, ESSENDO COSA NOTA E ACCLARATA DEL RAPPORTO DIRETTO DI VESPA CON LE SORELLE MELONI…

antonio pelayo bombin juan carlos

DAGOREPORT: COME FAR FUORI IL SACERDOTE 81ENNE ANTONIO PELAYO BOMBÌN, CELEBERRIMO VATICANISTA CHE PER 30 ANNI È STATO CORRISPONDENTE DELLA TELEVISIONE SPAGNOLA "ANTENA 3", CUGINO DI PRIMO GRADO DELL’EX RE JUAN CARLOS? UN PRETE CHE A ROMA È BEN CONOSCIUTO ANCHE PERCHÉ È IL CONSIGLIERE ECCLESIASTICO DELL'AMBASCIATA SPAGNOLA IN ITALIA, VOCE MOLTO ASCOLTATA IN VATICANO, CAPACE DI PROMUOVERE O BLOCCARE LA CARRIERA DI OGNI ECCLESIASTICO E DI OGNI CORRISPONDENTE SPAGNOLO – PER INFANGARLO È BASTATA UNA DENUNCIA AI CARABINIERI DI ROMA DI UN FINORA NON IDENTIFICATO CRONISTA O PRODUCER DI REPORT VATICANENSI CHE LO ACCUSA DI VIOLENZA SESSUALE, IMPUTAZIONE DIVENTATA NELLA DISGRAZIATA ERA DEL METOO L’ARMA PIÙ EFFICACE PER FAR FUORI LA GENTE CHE CI STA SUL CAZZO O PER RICATTARLA – IL POVERO PELAYO È FINITO IN UN TRAPPOLONE CHE PUZZA DI FALSITÀ PIÙ DELLE BORSE CHE REGALA DANIELA SANTANCHÉ E DELLE TETTE DI ALBA PARIETTI – IL SOLITO E BIECO SCHERZO DA PRETE, PROBABILMENTE USCITO DALLE SACRE MURA DELLA CITTÀ DI DIO…

giorgia meloni gennaro sangiuliano

DAGOREPORT - LE RESURREZIONI DI “LAZZARO” SANGIULIANO NON SI CONTANO PIÙ: “BOCCIATO” DA MINISTRO, RIACCIUFFATO IN RAI E SPEDITO A PARIGI, ORA SBUCA COME CAPOLISTA ALLE REGIONALI CAMPANE - ESSÌ: DIVERSAMENTE DAGLI IRRICONOSCENTI SINISTRATI, A DESTRA LA FEDELTÀ NON HA SCADENZA E GLI AMICI NON SI DIMENTICANO MAI - DURANTE I TRE ANNI A PALAZZO CHIGI, IL “GOVERNO DEL MERITO COME ASCENSORE SOCIALE” (COPY MELONI) HA PIAZZATO UNA MAREA DI EX DEPUTATI, DIRIGENTI LOCALI, TROMBATI E RICICLATI NEI CDA DELLE AZIENDE CONTROLLATE DALLO STATO - COME POTEVA LA STATISTA DELLA GARBATELLA DIMENTICARE SANGIULIANO, IMMARCESCIBILE DIRETTORE DEL TG2 AL SERVIZIO DELLA FIAMMA? IL FUTURO “GENNY DELON” ‘’ERA SALITO TALMENTE TANTO NELLE GRAZIE DELLA FUTURA PREMIER DA ESSERE CHIAMATO A SCRIVERE PARTE DEL PROGRAMMA DEI MELONIANI, INVITATO A CONVENTION DI PARTITO E, ALLA FINE, RICOMPENSATO ADDIRITTURA CON UN POSTO DI GOVERNO’’ - E’ COSÌ A DESTRA: NESSUNA PIETÀ PER CHI TRADISCE, MASSIMO PRONTO SOCCORSO PER CHI FINISCE NEL CONO D’OMBRA DEL POTERE PERDUTO, DOVE I TELEFONINI TACCIONO E GLI INVITI SCOMPAIONO… - VIDEO

giorgia meloni sigfrido ranucci elly schlein bomba

DAGOREPORT – DOBBIAMO RICONOSCERLO: GIORGIA MELONI HA GESTITO IN MANIERA ABILISSIMA IL CASO DELL'ATTENTATO A RANUCCI, METTENDO ANCORA UNA VOLTA IN RISALTO L'INETTITUDINE POLITICA DI ELLY SCHLEIN - GETTARE INDIRETTAMENTE LA RESPONSABILITA' DELL'ATTO TERRORISTICO ALLA DESTRA DI GOVERNO, COME HA FATTO LA SEGRETARIA DEL PD, È STATA UNA CAZZATA DA KAMIKAZE, ESSENDO ORMAI LAMPANTE CHE LE BOMBE SONO RICONDUCIBILI AL SOTTOMONDO ROMANO DEL NARCOTRAFFICO ALBANESE, OGGETTO DI UN'INCHIESTA DI "REPORT" - E QUELLA VOLPONA DELLA PREMIER HA RIBALTATO AL VOLO LA FRITTATA A SUO VANTAGGIO: HA CHIAMATO RANUCCI PER MANIFESTARGLI SOLIDARIETÀ E, ANCORA PIÙ IMPORTANTE, HA INVIATO TRE AUTOREVOLI ESPONENTI DI FRATELLI D’ITALIA (TRA CUI BIGNAMI E DONZELLI) ALLA MANIFESTAZIONE INDETTA DAL M5S PER RANUCCI E LA LIBERTÀ DI STAMPA - DOPO L’ATTENTATO, NESSUNO PARLA PIÙ DI UN POSSIBILE PASSAGGIO DI "REPORT" A LA7: SIGFRIDO, ORA, È INTOCCABILE… - VIDEO

giorgia meloni antonio tajani maurizio casasco marina pier silvio berlusconi salvini

DAGOREPORT - TAJANI, UNA NE PENSA, CENTO NE SBAGLIA. IL SEGRETARIO DI FORZA ITALIA CI HA MESSO 24 ORE AD ACCORGERSI CHE GIORGIA MELONI HA STRACCIATO UNO DEI SUOI CAVALLI DI BATTAGLIA IN EUROPA: IL SUPERAMENTO DEL DIRITTO DI VETO. IL MINISTRO DEGLI ESTERI È RIUSCITO A PARTORIRE SOLO UNA DICHIARAZIONE AL SEMOLINO (“HA DETTO LA SUA OPINIONE, IO PENSO INVECE CHE SI DEBBA FARE QUALCHE PASSO IN AVANTI”), MENTRE È STATO ZITTO DI FRONTE ALLE INVETTIVE ANTI-RIARMO E CONTRO L’UE DEI PARLAMENTARI LEGHISTI. IL POVERINO È ANCORA STORDITO DALLA PROMESSA, SCRITTA SULLA SABBIA, CON CUI L'HA INTORTATO LA DUCETTA: SE FAI IL BRAVO, NEL 2029 TI ISSIAMO AL QUIRINALE AL POSTO DI MATTARELLA (E CI CREDE DAVVERO) – IN TUTTO QUESTO BAILAMME, TAJANI PROVA A METTERE LE MANI SULLA CONSOB CON UNA MOSSA DA ELEFANTE IN CRISTALLERIA: NOMINARE IL DEPUTATO AZZURRO MAURIZIO CASASCO. MA SI È DIMENTICATO DI COORDINARSI CON LA FAMIGLIA BERLUSCONI, CHE NON L’HA PRESA BENE…